PRELEKCJE
Wystąpienie stanowi wprowadzenie do bezpieczeństwa sztucznej inteligencji (ang. AI Safety) dla osób, które chcą zrozumieć, czym jest ta dziedzina, dlaczego ma znaczenie i jak można się w nią zaangażować. Omówione zostają trzy główne kategorie ryzyka: nadużycia (ang. misuse; phishing wspomagany przez AI, cyberataki oraz proliferacja zagrożeń CBRN); ryzyka systemowe (deepfake'i podważające zaufanie społeczne, psychologiczne skutki współpracy człowieka z AI oraz trudne do przewidzenia, lecz potencjalnie ogromne zakłócenia na rynku pracy); a także brak spójności (ang. misalignment; wyzwanie polegające na zapewnieniu, że zaawansowane systemy AI realizują cele zgodne z wartościami i potrzebami człowieka, zilustrowane rzeczywistymi badaniami dotyczącymi hakowania funkcji nagrody, fałszowania spójności oraz zachowań intryganckich). Wystąpienie omawia również główne podejścia do przeciwdziałania tym zagrożeniom oraz sposoby aktywnego włączenia się w rozwój tej dziedziny.
Patryk jest Research Managerem w MATS – amerykańskiej organizacji non-profit działającej na rzecz rozwoju ekosystemu badań nad bezpieczeństwem AI. Współorganizuje także AI Safety Poland, inicjatywę społecznościową której celem jest budowanie lokalnego ruchu na rzecz bezpieczeństwa AI w Polsce. Przed objęciem tych ról spędził sześć lat w firmie DataWalk oraz uzyskał stopień doktora w dziedzinie sztucznej inteligencji na Politechnice Wrocławskiej.
Moc obliczeniowa jest jednym z kluczowych czynników w skalowaniu współczesnych systemów AI. W tej prezentacji opowiem jak skoncentrowany łańcuch dostaw GPU jest wykorzystywany jako narzędzie na rzecz bezpieczeństwa AI, ale także do osiągania celów geopolitycznych. Przedstawię również postępy algorytmiczne w treningu 'decentralizowanym', które mogą podważyć ten paradygmat.
Jakub jest pracownikiem badawczym w SaferAI, organizacji non-profit zajmującej się opracowywaniem kwantyfikowalnych modeli ryzyka w AI. Jego doświadczenie obejmuje zarówno techniczne, jak i regulacyjne aspekty AI - pracował nad adversarial ML, użyciem mocy obliczeniowej jako narzędzia na rzecz bezpieczeństwa AI, a także polityką ochrony sygnalistów w AI. Wcześniej ukończył doktorat z fizyki cząstek elementarnych na Uniwersytecie Durham w Wielkiej Brytanii.
ul. Granitowa 17, 52-235 Wrocław
KRS
0001257086
NIP
8993064563
REGON
545351967
Tam ogłaszamy spotkania.