Demis Hassabis, współzałożyciel Google DeepMind, ostrzegł w środę, że ostatnie włamania dokonane przez zbuntowane agentowe systemy AI są jedynie „strzałami ostrzegawczymi”. Bez zdecydowanego wzmocnienia zabezpieczeń w ciągu najbliższych dwóch lat mogą dojść do skutku znacznie poważniejsze incydenty.
Najważniejsze:
- Hassabis określił ostatnie włamania z udziałem agentów AI jako wczesne sygnały ostrzegawcze ze strony systemów, które wciąż nie są bardzo potężne.
- Ostrzegł, że w perspektywie kilku lat mogą dojść do skutku poważne zdarzenia, jeśli firmy i rządy nie zadbają o lepsze zabezpieczenia.
- Prezes Microsoftu Brad Smith wezwał do rozsądnych, wyważonych regulacji AI po – jak to ujął – „otrzeźwiającym” roku.
Ostrzeżenie Hassabisa w Dublinie
Hassabis, który stoi na czele DeepMind i jest głównym naukowcem w grupie Alphabet, właścicielu Google, powiedział podczas Międzynarodowego Szczytu AI w Dublinie, że ostatnie ataki pochodziły z systemów, które „jeszcze nie są szczególnie potężne”. Zastrzegł, że już w przyszłym roku i w kolejnych latach może się to diametralnie zmienić, jeśli branża, poszczególne spółki oraz rządy nie podejmą zdecydowanych działań, by je zabezpieczyć. Kwestie bezpieczeństwa zdominowały obrady.
Naukowcy od miesięcy alarmują w sprawie zbuntowanych agentów AI.
Do najnowszych przypadków zaliczają się włamania do sieci korporacyjnych oraz – ujawnione niedawno przez Anthropic – wysłanie przez model AI fałszywego zgłoszenia o zabójstwie do policji. Hassabis podkreślił, że branżę dzieli wciąż „bardzo dużo pracy” od poziomu zabezpieczeń obowiązujących w sektorze biologicznym czy nuklearnym przy systemach o krytycznym znaczeniu. Jego zdaniem ostatecznie potrzebny będzie jakiś rodzaj międzynarodowej instytucji standaryzacyjnej, przy czym jej system certyfikacji musi być proporcjonalny do skali ryzyka i na tyle elastyczny, by nadążać za tempem zmian technologicznych.
Zobacz też: Francja może opodatkować wymianę stablecoinów stawką 31,4%, Chainalysis ostrzega przed odpływem za granicę
Brad Smith naciska na regulacje
Prezes Microsoftu, Brad Smith, powiedział uczestnikom konferencji, że zbuntowane zachowania systemów AI sprawiły, iż rok 2026 stał się „otrzeźwiający” i że regulacje bezpieczeństwa muszą wreszcie dogonić innowacje.
„Na karton mleka przypada dziś więcej przepisów bezpieczeństwa niż na sztuczną inteligencję” – stwierdził.
Smith argumentował, że żadna firma ani technologia nie powinna stać ponad prawem, choć nowe zasady muszą być rozsądne, wyważone i uwzględniające potrzebę dalszych innowacji. Wskazał również na niedawny raport Anthropic, z którego wynika, że niewielkie modele AI mogą być zaledwie kilka miesięcy od zdolności samodzielnego kopiowania się z jednego urządzenia podłączonego do sieci na kolejne – na wzór klasycznych robaków komputerowych. „Nie chcę robaków AI w swojej lodówce” – dodał.
W przeddzień szczytu Smith wezwał do wprowadzenia „hamulców bezpieczeństwa”, które pozwalałyby użytkownikom wyłączyć lub spowolnić działanie agentów AI. Opowiedział się także za obowiązkowym raportowaniem incydentów i zaostrzeniem testów modeli przed ich komercyjnym wdrożeniem. Jak dodał w środę, część branży musi „uporać się z alergią na regulacje”.
Wystąpienie Hassabisa w Dublinie rozwija koncepcję, którą przedstawił już 14 lipca. Wówczas określił cyberzagrożenia generowane przez AI mianem „strzałów ostrzegawczych” i zaapelował do USA o powołanie wyspecjalizowanego nadzoru nad najbardziej zaawansowanymi modelami. Nowy urząd, wzorowany na nadzorcy Wall Street FINRA, miałby umożliwiać laboratoriom udostępnianie modeli na 30 dni przed premierą, by przetestować ich możliwości w zakresie cyberataków, biotechnologii i manipulacji. Hassabis wyraził nadzieję, że taki organ ruszy jeszcze przed końcem roku.
Czytaj dalej: MNX otwiera zakłady przed IPO na wycenę OpenAI i Anthropic, bez konieczności posiadania akcji
