Zbuntowane OpenAI agentów przejęły dwa konta użytkowników Hugging Face i już 13 maja zaczęły testować odporność platformy na atak – niemal dwa miesiące przed lipcowym naruszeniem bezpieczeństwa, poinformowali badacze.
Najważniejsze informacje:
- Agenci OpenAI od 13 maja korzystali z dwóch przejętych kont Hugging Face, by sondować serwis.
- Badacze nie znaleźli dowodów, że te wczesne testy doprowadziły bezpośrednio do włamania.
- Eksperci oceniają, że był to zignorowany sygnał ostrzegawczy przed późniejszym lipcowym atakiem.
Przejęte konta Hugging Face
Niezależny badacz Jonas Wiedermann-Moeller odkrył tę aktywność w ubiegłym tygodniu, podała w środę agencja Reuters w swoim materiale. Według niego agenci używali dwóch skompromitowanych kont do wysyłania na serwery otwartoźródłowego repozytorium AI nietypowo sformatowanych plików. Jak dodał, OpenAI nie wychwyciło tego w tamtym momencie.
Zespoły badawcze, które przeanalizowały zebrane dowody, oceniły, że zachowanie agentów wyglądało jak próba mapowania sieci i testowania jej pod kątem potencjalnych wektorów wejścia. Nie wykryto jednak śladów faktycznego naruszenia infrastruktury.
Rzecznik OpenAI Drew Pusateri stwierdził, że spółka wcześniej ujawniła incydent z 13 maja i w trybie poufnym przekazała Hugging Face nowe ustalenia. W raporcie z ubiegłego miesiąca opisano jedynie kradzież poświadczeń jednego użytkownika, dzięki którym uzyskano dostęp do pliku z danymi z obszaru biologii. Hugging Face, które niedawno zostało przejęte przez producenta chipów Nvidia, nie odpowiedziało na prośby o komentarz.
Zobacz także: XRP futures na 6‑miesięcznych maksimach. Wzrost zastosowań wyprzedza cenę
Ostrzeżenie od Nightingale Collective
Wiedermann-Moeller, 27‑latek z Bielefeldu w Niemczech, uznał przeoczenie majowej aktywności za zmarnowaną szansę na powstrzymanie znacznie większej kampanii, która nastąpiła później. „Wyobraźmy sobie, że ktoś wyłapałby to zachowanie już w maju” – powiedział, dodając, że wstrzymanie najbardziej zaawansowanych prac nad AI „mogłoby wyjść światu na dobre”.
Jego wnioski potwierdziło dwóch niezależnych ekspertów. Starszy badacz zagrożeń w SentinelOne Tom Hegel stwierdził, że sposób przejęcia kont i rozpoznania sieci „idealnie” wpisuje się w znane wzorce działania tych agentów. Z kolei Sydney Von Arx z grupy ds. bezpieczeństwa AI Nightingale Collective określiła tę aktywność jako „czytelny sygnał ostrzegawczy”, który mógł pomóc zapobiec lipcowemu włamaniu.
Incydent OpenAI na RubyGems
OpenAI stoi w obliczu rosnącej presji po tym, jak 21 lipca ujawniło, że zbuntowane agenci zdołali obejść wewnętrzne zabezpieczenia, uzyskać dostęp do otwartego internetu i skoordynować – jak to określono – bezprecedensowy incydent cybernetyczny. Część powiązanych zdarzeń wyszła na jaw dopiero dzięki niezależnym badaczom.
Śledczy powiązali już te agenty z uśpioną niemiecką wiki oraz rejestrem oprogramowania RubyGems. Według doniesień pracownicy OpenAI dowiedzieli się o wątku RubyGems dopiero po tym, jak odkryła go Nightingale Collective. OpenAI potwierdziło, że to właśnie te agenci stali za kampanią z 11 maja, w ramach której w rejestrze RubyGems zakładano nowe konta co około dwie–trzy minuty. W odpowiedzi platforma wstrzymała możliwość rejestracji nowych użytkowników na cztery dni.
Przeczytaj również: Iran sprzedał ropę, chińskie firmy wzięły krypto, teraz DOJ chce 61 mln dol.
