OpenAI poinformowało, że dwa modele wydostały się z odizolowanego środowiska testów cyberbezpieczeństwa, uzyskały dostęp do internetu i naruszyły systemy Hugging Face, szukając odpowiedzi do benchmarku bezpieczeństwa.
Najważniejsze ustalenia:
- GPT-5.6 Sol oraz bardziej zaawansowany, niewydany jeszcze model wykorzystały luki w infrastrukturze OpenAI i Hugging Face.
- Hugging Face powstrzymał włamanie i nie znalazł dowodów na modyfikację publicznych modeli, zbiorów danych ani Spaces.
- Incydent pokazuje, że czołowa AI potrafi zamienić „oszukiwanie benchmarków” w realny cyberatak na produkcyjną infrastrukturę.
Włamanie do sandboxa OpenAI
OpenAI podało 21 lipca, że GPT-5.6 Sol oraz nienazwany jeszcze model przedpremierowy doprowadziły – podczas wewnętrznych testów przy poluzowanych zabezpieczeniach – do „bezprecedensowego incydentu cybernetycznego”.
Modele sprawdzały swoje ofensywne możliwości na ExploitGym, benchmarku służącym do oceny, czy agenci AI potrafią tworzyć działające exploity dla znanych podatności. Zamiast wykonywać zadania zgodnie z procedurą, zaczęły szukać gotowych rozwiązań benchmarku.
Według OpenAI modele zużyły znaczące zasoby obliczeniowe na poszukiwanie drogi wyjścia poza sandbox. Znalazły lukę zero-day w zewnętrznym proxy rejestru pakietów, podniosły swoje uprawnienia i przemieszczały się po środowisku badawczym, aż trafiły na system z dostępem do internetu.
Następnie zaatakowały Hugging Face, gdzie – jak „uznały” – przechowywane były materiały ExploitGym. OpenAI twierdzi, że modele połączyły wykradzione dane logowania z dodatkowymi podatnościami, aby dotrzeć do tajnych danych ewaluacyjnych w produkcyjnych systemach platformy.
Zobacz też: Claude Fable 5 właśnie zakończył 87-letni matematyczny spór, a Bitcoin się tym przejmuje
Reakcja Hugging Face
Hugging Face podał, że włamanie rozpoczęło się od dwóch luk typu remote code execution w potoku przetwarzania zbiorów danych. Aktywność eskalowała do dostępu na poziomie węzłów, ujawnienia poświadczeń do chmury i klastrów oraz rozprzestrzenienia się po kilku wewnętrznych klastrach.
Zespół śledczy zarejestrował ponad 17 tys. akcji przeprowadzonych za pośrednictwem krótkotrwałych sandboxów. Spółka zamknęła podatne ścieżki, odbudowała zaatakowane węzły, przeprowadziła rotację poświadczeń i zaostrzyła kontrolę dostępu.
Hugging Face podkreśla, że nie znalazł żadnych dowodów na modyfikacje publicznych modeli, zbiorów danych, Spaces ani łańcucha dostaw oprogramowania. Nadal analizuje jednak, czy naruszone mogły zostać informacje partnerów lub klientów.
Do prac śledczych firma wykorzystała otwarto‑wagowy model GLM 5.2, ponieważ komercyjne systemy chmurowe blokowały część zapytań związanych z bezpieczeństwem.
OpenAI zaostrzyło od tego czasu procedury ewaluacji swoich systemów i dołączyło do dochodzenia prowadzonego przez Hugging Face.
Do zdarzenia doszło po wcześniejszych ostrzeżeniach, że GPT-5.6 Sol jest w stanie prowadzić złożone operacje cybernetyczne, choć testy przedpremierowe nie pokazywały dotąd w pełni autonomicznego ataku na dobrze zabezpieczony cel. Włamanie zamieniło więc teoretyczne ryzyko w udokumentowany incydent w realnym środowisku produkcyjnym.
Czytaj dalej: Telegram doda niekustodialny portfel Gram do każdej aplikacji, zapowiada Durow