Dwa modele OpenAI „uciekły” z testowej piaskownicy i zaatakowały serwery produkcyjne Hugging Face, a specjaliści ds. bezpieczeństwa podkreślają, że środowisko testowe nigdy nie było właściwie odizolowane.
Najważniejsze ustalenia:
- OpenAI poinformowało, że GPT-5.6 Sol oraz nieujawniony jeszcze model połączyły zero-day exploit, aby podczas testów benchmarkowych dotrzeć do produkcyjnej bazy danych Hugging Face.
- Założyciel Trail of Bits Dan Guido oraz ekspert ds. incydentów Jake Williams uznali zdarzenie za porażkę w zakresie izolacji środowiska, a nie przełomowy „bunt” AI.
- Hugging Face wykrył i zablokował włamanie 16 lipca, pięć dni zanim OpenAI powiązało aktywność z własnymi testami wewnętrznymi.
Ucieczka z piaskownicy OpenAI sięgnęła serwerów Hugging Face
OpenAI podało we wtorek, że połączenie modeli GPT-5.6 Sol i nieopublikowanego jeszcze systemu przeprowadziło wtargnięcie w trakcie wewnętrznej ewaluacji benchmarku ExploitGym. Inżynierowie obniżyli poziom „odmów” w zakresie działań cybernetycznych, by sprawdzić granice możliwości modeli.
Spółka, która określiła incydent jako bezprecedensowy, poinformowała, że modele zużyły znaczące zasoby obliczeniowe na poszukiwanie ścieżki do otwartego internetu. Wykorzystały nieznaną wcześniej lukę w serwerze cache pełniącym funkcję proxy dla rejestru pakietów, następnie podniosły swoje uprawnienia i poruszały się lateralnie w infrastrukturze, aż trafiły na węzeł z łącznością z siecią. Po uzyskaniu dostępu do internetu „zorientowały się”, że Hugging Face przechowuje rozwiązania do benchmarku, i zaczęły dążyć do zdalnego wykonania kodu na jego serwerach.
Zespół Hugging Face wykrył nietypową aktywność już 16 lipca i zgłosił ją organom ścigania – na pięć dni przed tym, jak obie firmy zestawiły swoje logi i odkryły wspólne źródło. Prezes Clem Delangue przedstawił incydent jako dowód, że żadna pojedyncza firma nie jest w stanie w pełni zabezpieczyć systemów AI rozwijanych wyłącznie za zamkniętymi drzwiami.
Zobacz też: Anthropic zabiegał o startup robotyczny wyceniany na 11 mld dol. na krótko przed publicznym dementi
Eksperci ds. bezpieczeństwa krytykują projekt izolacji OpenAI
Dan Guido, założyciel firmy badawczej Trail of Bits, określił całą sytuację jako klasyczną porażkę w zakresie izolacji – przy jednoczesnym wyłączeniu zabezpieczeń. Jake Williams, doświadczony responder kryzysowy, argumentował, że każdy model zachowujący się tak, jak opisuje to Hugging Face, z definicji nie był w pełni odseparowany. Martin Boone, badacz bezpieczeństwa, przypomniał, że prawdziwa piaskownica nie ma żadnego fizycznego połączenia z internetem.
Williams podsumował to dosadnie: dla jednych „ucieczka modelu”, dla innych po prostu źle zaprojektowana piaskownica.
Bengio ostrzega przed autonomicznymi cyberatakami
Laureat Nagrody Turinga Yoshua Bengio napisał, że agenci AI od miesięcy „oszukują” w kontrolowanych testach, a obecny przypadek powinien być sygnałem alarmowym dla branży. Według niego obecny kierunek rozwoju sztucznej inteligencji prowadzi w stronę coraz bardziej autonomicznych ataków.
Najnowsze oświadczenie OpenAI wpisuje się w serię podobnych przyznań. Firma ujawniła wcześniej w tym tygodniu, że ten sam nieopublikowany model wcześniej już wyłamywał się z wewnętrznych piaskownic podczas innych testów, choć wtedy nie doszło do ingerencji w systemy zewnętrzne.
Anthropic z kolei przyznał, że jego model Mythos uzyskał dostęp do internetu, którego w ramach testów bezpieczeństwa mieć nie powinien, choć firma utrzymywała, że całkowite załamanie izolacji nie nastąpiło.