Agenci AI stworzeni przez OpenAI w lecie dotarli do serwisów trzech federalnych instytucji USA – potwierdzili to zarówno przedstawiciele firmy, jak i zewnętrzni badacze. W jednym z przypadków odnotowano nieudaną próbę zhakowania strony internetowej amerykańskiego Departamentu Edukacji.
Najważniejsze fakty:
- OpenAI potwierdziło, że podczas sesji treningowych agenci odwiedzali serwisy Komisji Papierów Wartościowych i Giełd (SEC) oraz pobierali dane z Biura Spisu Powszechnego.
- Badacze z Transluce twierdzą, że jeden z agentów próbował, bez powodzenia, włamać się na stronę internetową Departamentu Edukacji.
- Ujawnienie incydentów następuje po lipcowym ataku na Hugging Face i czerwcowym naruszeniu bezpieczeństwa australijskiego portalu zdrowotnego.
Agenci OpenAI na celowniku agencji federalnych
OpenAI poinformowało w piątek, że jej agenci uzyskali dostęp do publicznie dostępnych informacji na dwóch serwisach Komisji Papierów Wartościowych i Giełd (SEC), a także pobierali dane z Biura Spisu Powszechnego, działającego w strukturach Departamentu Handlu USA.
Jak podaje firma, aktywność ta miała miejsce podczas uruchamiania treningów modeli. Organizacja badawcza Transluce, nienastawiona na zysk, poinformowała, że w toku własnego dochodzenia natrafiła w otwartej sieci na nowe ślady działań agentów i przekazała je OpenAI.
W przypadku Biura Spisu Powszechnego jeden z agentów miał rzekomo wykorzystać dane logowania znalezione w internecie, podczas gdy inny umieszczał publiczne informacje z SEC na forum dyskusyjnym. OpenAI zapewnia, że nie doszło do użycia danych logowania SEC, dostępu do informacji niejawnych ani modyfikacji systemów agencji. Spółka twierdzi też, że powiadomiła wszystkie zaangażowane instytucje.
Sprawa Departamentu Edukacji zaszła dalej. Transluce twierdzi, że agenci, którzy – jak się wydaje – byli powiązani z OpenAI, podjęli prymitywną próbę włamania na stronę obsługującą biuro praw obywatelskich resortu, jednak zakończyła się ona niepowodzeniem. Rzecznik departamentu podkreślił, że przeprowadzone kontrole nie wykazały żadnego wpływu na działanie serwisów czy baz danych.
Przeczytaj także: Czy AI naprawdę może zabić miliard ludzi? Bill Gates twierdzi, że już ma taką moc
Transluce alarmuje w sprawie taktyk
Conrad Stosz, odpowiedzialny za obszar ładu w Transluce, stwierdził, że agenci stosowali „cały wachlarz taktyk z szarej strefy” wobec stron amerykańskiej administracji.
Laboratorium poinformowało również o „dodatkowej nieautoryzowanej aktywności, której nie da się jednoznacznie przypisać OpenAI”, wymierzonej w Departament Sprawiedliwości, Departament Handlu oraz serwisy stanowe Kalifornii, Maryland, Illinois, Teksasu i Nowego Jorku.
OpenAI przedstawia ostrożniejszą wersję wydarzeń. Według firmy większość aktywności miała charakter rutynowych badań, ponieważ jej modele traktują rządowe serwisy jako wiarygodne źródła informacji publicznej. Spółka zaznaczyła też, że samo powiadomienie organizacji nie oznacza jeszcze incydentu bezpieczeństwa. OpenAI określa tego typu zdarzenia jako przypadki „niezgrania” (misalignment), prowadzące do „nieoczekiwanych lub niepokojących zachowań”.
Skutki ataku na Hugging Face
Szef OpenAI, Sam Altman, napisał na platformie X, że firma prowadzi „szeroko zakrojoną, trwającą wciąż analizę” sposobu, w jaki jej agenci korzystali z internetu podczas treningu i testów. Atak na Hugging Face określił jako „wciąż najpoważniejsze zdarzenie, z jakim mieliśmy do czynienia”.
OpenAI powiązało dwa ze swoich najbardziej zaawansowanych modeli z lipcowym cyberatakiem. Premier Australii Anthony Albanese powiedział w środę, że agent OpenAI włamał się w czerwcu do portalu statystyk systemu Medicare. Skrytykował firmę za to, że z informacją do rządu wystąpiła dopiero 10 września, i stwierdził, że agent „nie przyjmował odmowy do wiadomości”.
Zobacz również: Paxos wprowadza PAXGy z dochodem powiązanym z wynajmem złota
