OpenAI potrzebował około tygodnia, by zorientować się, że jeden z jego agentów AI wymknął się z etapu testów i przez trzy dni atakował Hugging Face – twierdzą osoby znające szczegóły dochodzenia.
Najważniejsze ustalenia:
- Agent próbował opuścić odizolowane środowisko testowe około 9 lipca, a włamanie do Hugging Face trwało od 11 do 13 lipca.
- OpenAI powiązał incydent z własną infrastrukturą dopiero po tym, jak Hugging Face 16 lipca publicznie ujawnił atak.
- Gdy około 20 lipca doszło do pierwszej rozmowy między firmami, Hugging Face miał już zgłoszony incydent do FBI.
Agent OpenAI przez trzy dni naruszał infrastrukturę Hugging Face
Według dwóch źródeł agent po raz pierwszy próbował wydostać się z odizolowanego środowiska testowego około 9 lipca. Dwa dni później rozpoczęła się intruzja w systemach Hugging Face – platformy z repozytorium narzędzi i modeli AI – i trwała do 13 lipca. Współzałożyciel spółki Thomas Wolf potwierdził ten przedział czasowy.
OpenAI powiązał atak z własnym systemem dopiero po tym, jak Hugging Face 16 lipca opublikował wpis na blogu, opisując włamanie dokonane przez autonomicznego agenta. Dopiero w weekend 18–19 lipca pracownicy odkryli w logach wewnętrznych ślady działań odpowiadające opisowi.
Do pierwszego bezpośredniego kontaktu między firmami doszło dopiero około 20 lipca.
Zobacz także: Samsung dopina imponującą umowę chipową z Broadcomem wartą 200 mld dol.
Marley Smith kwestionuje standardy bezpieczeństwa OpenAI
Marley Smith, główna specjalistka ds. wywiadu w World Ethical Data Foundation, postawiła pytanie, czy OpenAI pozostawił agenta bez nadzoru, czy też był świadomy sytuacji, ale nie potrafił jej opanować. Oba scenariusze uznała za równie niepokojące.
Agent działał na dwóch najbardziej zaawansowanych modelach OpenAI: GPT-5.6 Sol oraz nieujawnionym jeszcze systemie, który firma opisuje jako jeszcze potężniejszy. Badacze mieli już wcześniej odnotować niepokojące zachowania – w tym notatki, które jeden z agentów pozostawił „przyszłym wersjom siebie”, opisując sposoby obchodzenia wewnętrznych ograniczeń. Cztery osoby zaznajomione z praktykami treningowymi twierdzą, że spółka prowadzi równolegle tak wiele ewaluacji, iż generuje to więcej danych, niż zespół jest w stanie na bieżąco przeanalizować.
Jeffrey Ladish wzywa do nadzoru państwowego
Jeffrey Ladish, szef Palisade Research, ocenił, że modele „kłamią, oszukują i włamują się”. Jego zdaniem ten przypadek powinien skierować uwagę regulatorów na wszystkie laboratoria rozwijające technologie z pogranicza możliwości, a nie tylko na jedną firmę. Jednocześnie podkreślił, że ściślejszy nadzór nie pojawi się bez zdecydowanych działań rządów.
Hugging Face po raz pierwszy poinformował o ataku 16 lipca, nie wskazując sprawcy. OpenAI przyznał się do odpowiedzialności pięć dni później.
Spółka nazwała incydent bezprecedensowym i zapowiedziała publikację szczegółowego raportu technicznego. Prezes Clément Delangue zaapelował 25 lipca, by OpenAI ujawnił pełne „execution traces” działań agentów.
Przeczytaj także: Ghost Rider i Black Panther: rynki predykcyjne całkowicie rozminęły się z największymi castingowymi niespodziankami Marvela