11.VI - Spotkanie OWASP w Warszawie (AI Security)

17:30 – 18:00 – Rejestracja (prośba o możliwie wcześniejsze przybycie, by uniknąć kolejki przy recepcji)

18:00 – 18:25 – Otwarcie spotkania oraz omówienie aktualnych projektów OWASP dotyczących bezpieczeństwa sztucznej inteligencji, Michał Kurek, OWASP Poland

W ramach dorobku OWASP pojawiło się w ostatnim czasie wiele ciekawych projektów, które pomagają rzucić więcej światła na ciemne strony AI. W trakcie prezentacji omówione zostaną główne zagrożenia dla AI oraz specyficzne wyzwania w zakresie zapewnienia bezpieczeństwa sztucznej inteligencji, przez pryzmat takich projektów OWASP jak: OWASP AI Exchange, OWASP Top 10 for LLM Applications, OWASP AI Security & Privacy Guide, OWASP Machine Learning Security Top 10.

Michał współkieruje polskim oddziałem OWASP. Na co dzień zarządza zespołem ekspertów stanowiącym regionalne centrum kompetencyjne KPMG w zakresie cyberbezpieczeństwa. Posiada bogate, przeszło 20-letnie doświadczenie w zakresie doradztwa w obszarze cyberbezpieczeństwa. Zdobył m.in. następujące certyfikaty: CISM, CISSP, CISA, GICSP, GDSA, LPT, CEH, GWAPT, CRISC, CCSP, CCSA, GSSP-JAVA, ECSA, PMP, CIA, GAWN, CCNA.

18:30 – 19:00 – Moc AI w programie AppSec, Jakub Kałużny, Snowflake

W ramach prezentacji zostaną przekazane praktyczne wskazówki, jak wzbogacić program zarządzania bezpieczeństwem aplikacji z wykorzystaniem sztucznej inteligencji. Zostanie omówione jak wykorzystać funkcjonalność LLM, RAG i GBM aby osiągnąć następujące cele:

- identyfikacja niepokojących sygnałów poprzez semantyczną analizę danych w systemach wspierającychwytwarzanie oprogramowania (Jira, Github)

- uzyskanie szybkich wglądów w bezpieczeństwo w ramach przeglądów kodu źródłowego

- wsparcie wiedzą z zakresu polityk i procedur wewnętrznych w ramach przeglądów bezpieczeństwa

- automatyzacja modelowania zagrożeń dzięki dostarczaniu odpowiednich zagrożeń i środków mitygujących ryzyko poprzez wytrenowanie modelu AI z wykorzystaniem ustrukturyzowanych danych z modelowania zagrożeń

Jakub kieruje działaniami związanymi z bezpieczeństwem AI w Snowflake jako Starszy Menedżer w zespole Product Security, gdzie zarządza portfelem usług związanych z bezpieczeństwem aplikacji. Przed dołączeniem do Snowflake zarządzał programami pentestingowymi i wdrażał procesy modelowania zagrożeń w wielu różnych przedsiębiorstwach w Australii i Polsce. Ekspert w Fundacji AI Security.

19:00 – 19:30 – Otwarta dyskusja

19:30 – 21:00 – Networking

--- ENGLISH ---

17:30 – 18:00 – Registration (please arrive as early as possible to avoid the queue at the reception)

18:00 – 18:25 – Opening of the meeting and presentation of current OWASP projects regarding AI security, Michał Kurek, OWASP Poland

OWASP has recently launched many interesting projects that help shed more light on the dark sides of AI. During the presentation, the main threats to AI and specific challenges in ensuring the security of artificial intelligence will be discussed, through the prism of such OWASP projects as: OWASP Top 10 for LLM Applications, OWASP AI Security & Privacy Guide, OWASP Machine Learning Security Top 10.

18:30 – 19:00 – Amplify your AppSec program with AI, Jakub Kałużny, Snowflake

In this presentation, you will learn practical knowledge how to power your AppSec program with AI - I will talk how to use LLM functions, RAG and GBM to achieve the following goals:

- identify concerning signals earlier via semantic search through engineering and security data with LLMs

- provide instant security insights in code reviews

- contextualize consults via application of internal security policies in simple security reviews

- automate threat modeling with contextualized threats and mitigations via training a model on your structured threat modeling data

19:00 – 19:30 – Open discussion

19:30 – 21:00 – Networking