MEETUP #24: AI & Cybersecurity

Nie musisz zostać zaatakowany, żeby stracić dane. Wystarczy źle ustawiony plik konfiguracyjny i agent AI, który działa szybciej, niż jesteś w stanie go czytać. Przypadki z własnych projektów - historie z pierwszej ręki, z sytuacji, w których agent zrobił dokładnie to, o co go poproszono, i właśnie dlatego zrobiło się nieprzyjemnie. Do tego kilka głośnych historii z tego roku, gdzie mechanizm był ten sam, tylko skala większa. System prompt to nie jest kontrola dostępu. Wyjdziesz z checklistą i poleceniami do uruchomienia tego samego wieczoru. Bez rezygnowania z agentów - sam używam ich codziennie.

Systemy uczenia maszynowego (ML) są wszędzie i bardzo wpływają na nasze życie. Co jednak, gdy okaże się, że system został „źle” nauczony (np. na błędnych danych) albo użyto do treningu nielegalnych treści? Najprostszym rozwiązaniem jest nauczenie systemu od nowa. To może być jednak niemożliwe – na przykład dlatego, że koszt takiego treningu to miliony dolarów. Podczas wystąpienia opowiem o oduczaniu maszynowym (MUL) – intensywnie rozwijanym obszarze AI z punktu widzenia technologii i prawa. Okazuje się, że MUL daje szanse na bardziej bezpieczne i wiarygodne AI, ale z drugiej strony wiąże się ze sporymi trudnościami i licznymi paradoksami.