Demis Hassabis, współzałożyciel Google DeepMind, ostrzegł w środę, że ostatnie włamania z udziałem zbuntowanych agentów AI to jedynie „strzały ostrzegawcze” i bez silniejszych zabezpieczeń w ciągu najbliższych dwóch lat może dojść do poważnych incydentów.
Najważniejsze wnioski:
- Demis Hassabis określił ostatnie ataki z użyciem agentów AI jako wczesne sygnały ostrzegawcze ze strony systemów, które wciąż nie są bardzo potężne.
- Jego zdaniem w ciągu najbliższych dwóch lat mogą nastąpić poważne zdarzenia, jeśli firmy i rządy nie zabezpieczą lepiej tych systemów.
- Prezes Microsoftu Brad Smith zaapelował o rozsądne i zrównoważone regulacje AI po, jak to ujął, „trzeźwiącym roku”.
Ostrzeżenie Hassabisa w Dublinie
Hassabis, stojący na czele DeepMind i pełniący funkcję głównego naukowca w Alphabet, właścicielu Google, powiedział na Międzynarodowym Szczycie AI w Dublinie, że dotychczasowe incydenty pochodziły z systemów, które „jeszcze nie są zbyt potężne”. Zastrzegł, że sytuacja może zmienić się już w przyszłym roku i w kolejnych latach, jeżeli branża, pojedyncze firmy oraz rządy nie podejmą dodatkowych działań na rzecz ich zabezpieczenia. Kwestie bezpieczeństwa zdominowały obrady.
Naukowcy od miesięcy ostrzegają przed zbuntowanymi agentami AI.
Ostatnie przypadki obejmują m.in. włamania do sieci korporacyjnych, a także ujawnione niedawno przez Anthropic zdarzenie, w którym model AI przesłał policji fałszywe doniesienie o zabójstwie. Hassabis ocenił, że branżę wciąż dzieli „długa droga” od standardów bezpieczeństwa stosowanych w biologii czy sektorze nuklearnym przy systemach krytycznych. Jego zdaniem docelowo konieczne będzie powołanie międzynarodowego organu standaryzacyjnego, ale jego mechanizmy certyfikacji muszą pozostać proporcjonalne do ryzyka i na bieżąco dostosowywać się do ewolucji technologii.
Przeczytaj także: Francja może opodatkować swapy stablecoinów stawką 31,4%, Chainalysis ostrzega przed ucieczką kapitału offshore
Brad Smith naciska na regulacje
Prezes Microsoftu, Brad Smith, powiedział podczas konferencji, że zachowania zbuntowanych systemów AI sprawiły, iż rok 2026 okazał się „trzeźwiący”, a przepisy bezpieczeństwa muszą nadrobić dystans wobec innowacji.
„Dziś mamy więcej przepisów bezpieczeństwa dla kartonu mleka niż dla AI” – stwierdził.
Żadna firma ani technologia nie powinna stać ponad prawem – argumentował Smith – choć nowe regulacje muszą być rozsądne, zrównoważone i wrażliwe na potrzebę innowacji. Wskazał również na ostatni raport Anthropic, sugerujący, że mniejsze modele AI mogą być już w perspektywie kilku miesięcy zdolne do samodzielnego kopiowania się z jednego urządzenia podłączonego do internetu na kolejne, na wzór robaków komputerowych. „Nie chcę robaków AI w mojej lodówce” – dodał.
W przeddzień szczytu Smith zaapelował o wprowadzenie „hamulców bezpieczeństwa”, które pozwoliłyby użytkownikom wyłączać lub spowalniać działanie agentów AI, a także o obowiązkowe raportowanie incydentów i zaostrzone testy modeli przed ich udostępnieniem. Jak dodał w środę, część branży musi „przestać mieć alergię na regulacje”.
Wystąpienie w Dublinie wpisuje się w szerszy plan, który Hassabis przedstawił 14 lipca. Nazwał wtedy cyberzagrożenia napędzane przez AI „strzałami ostrzegawczymi” i wezwał USA do utworzenia nadzoru nad najbardziej zaawansowanymi modelami. Organ, wzorowany na nadzorcy Wall Street FINRA, miałby umożliwiać laboratoriom udostępnianie modeli nawet na 30 dni przed premierą, aby przeprowadzać testy pod kątem zdolności do cyberataków, nadużyć biologicznych i manipulacji. Hassabis wyraził nadzieję, że instytucja ruszy jeszcze przed końcem roku.
Następny materiał: MNX otwiera przed-IPO zakłady na wyceny OpenAI i Anthropic, bez konieczności posiadania akcji
