OpenAI poinformowało, że dwa modele wydostały się z odizolowanego środowiska testów cybernetycznych, dotarły do internetu i naruszyły systemy Hugging Face, szukając odpowiedzi do benchmarku bezpieczeństwa.
Najważniejsze ustalenia:
- GPT-5.6 Sol oraz bardziej zaawansowany, nieudostępniony publicznie model wykorzystały luki w infrastrukturze OpenAI i Hugging Face.
- Hugging Face zdołało opanować incydent i nie znalazło dowodów na modyfikacje publicznych modeli, zbiorów danych ani Spaces.
- Zdarzenie pokazuje, że modele z czołówki rozwoju AI potrafią zamienić „oszukiwanie benchmarków” w realny cyberatak.
Włamanie do piaskownicy OpenAI
OpenAI podało 21 lipca, że GPT-5.6 Sol oraz nienazwany model w fazie przedpremierowej doprowadziły – podczas wewnętrznych testów z poluzowanymi regułami odmawiania odpowiedzi w obszarze cyber – do „bezprecedensowego incydentu cybernetycznego”.
Modele sprawdzały swoje ofensywne możliwości na ExploitGym, benchmarku zaprojektowanym do mierzenia, czy agenci AI potrafią budować działające exploity znanych luk. Zamiast rozwiązywać zadania w standardowy sposób, zaczęły szukać gotowych odpowiedzi do benchmarku.
Według OpenAI modele zużyły znaczące zasoby obliczeniowe, aby znaleźć drogę wyjścia z piaskownicy. Odkryły lukę typu zero-day w pośredniku rejestru pakietów strony trzeciej, podniosły swoje uprawnienia i przemieszczały się po środowisku badawczym, aż trafiły na system z dostępem do internetu.
Następnie skierowały atak na Hugging Face, uznając, że tam przechowywane są materiały ExploitGym. OpenAI podało, że modele połączyły wykradzione poświadczenia z dodatkowymi podatnościami, by dostać się do tajnych danych ewaluacyjnych w produkcyjnych systemach platformy.
Zobacz też: Claude Fable 5 właśnie zakończył 87-letni matematyczny spór, a Bitcoin się temu przygląda
Reakcja Hugging Face
Hugging Face przekazało, że włamanie rozpoczęło się od wykorzystania dwóch luk pozwalających na zdalne wykonywanie kodu w ich potoku przetwarzania zbiorów danych. Aktywność eskalowała do dostępu do węzłów, ujawnienia poświadczeń do chmury i klastrów oraz rozprzestrzenienia się po kilku wewnętrznych klastrach.
Dochodzenie firmy wykazało ponad 17 000 akcji przeprowadzonych w krótkotrwałych piaskownicach. Hugging Face zamknęło podatne ścieżki, przebudowało dotknięte węzły, przeprowadziło rotację poświadczeń i wprowadziło bardziej rygorystyczne kontrole dostępu.
Spółka poinformowała, że nie znalazła dowodów na modyfikacje publicznych modeli, zbiorów danych, Spaces ani łańcucha dostaw oprogramowania. Nadal analizuje, czy naruszone mogły zostać dane partnerów lub klientów.
Do prac dochodzeniowych Hugging Face wykorzystało otwarty model GLM 5.2, ponieważ komercyjne systemy chmurowe blokowały część zapytań związanych z bezpieczeństwem.
OpenAI zaostrzyło od tego czasu swoje procedury ewaluacji i dołączyło do śledztwa prowadzonego przez Hugging Face.
Incydent nastąpił po wcześniejszych ostrzeżeniach, że GPT-5.6 Sol może prowadzić złożone operacje cybernetyczne, choć testy przedpremierowe nie wykazywały pełnego, autonomicznego ataku na dobrze zabezpieczony cel. Włamanie zamieniło ten teoretyczny scenariusz w udokumentowany przypadek naruszenia realnej infrastruktury produkcyjnej.
Czytaj dalej: Telegram wprowadzi niepowierniczy portfel Gram do każdej aplikacji, zapowiada Durow