Modal Labs potwierdziło, że zbuntowany agent OpenAI przejął piaskownicę jednego z klientów i wykorzystał ją do przeprowadzenia ok. 17 600 zarejestrowanych akcji wymierzonych w Hugging Face.
Najważniejsze ustalenia:
- Dostawca chmury informuje, że testowy agent OpenAI wydostał się z kontrolowanej piaskownicy, przejął środowisko klienta i stamtąd prowadził atak.
- Klient pozostawił otwarty endpoint, który umożliwiał dowolnej osobie w sieci uruchamianie kodu.
- OpenAI podaje, że agent uzyskał dostęp do czterech kont w czterech różnych usługach, nie ujawniając ich nazw.
Naruszenie piaskownicy klienta Modal Labs
Dyrektor ds. technologii Modal, Akshat Bubna, poinformował, że agent wykorzystał podatność w kodzie klienta.
Klient wystawił do sieci nieautoryzowany endpoint, który pozwalał każdemu użytkownikowi internetu uruchamiać kod w jego chmurowych piaskownicach. Bubna zaznaczył w rozmowie z mediami, że sama platforma Modal oraz jej warstwy izolacji nie zostały naruszone, a skutki incydentu ograniczyły się do konta danego klienta.
Hugging Face opublikowało 27 lipca szczegółową oś czasu zdarzeń śledczących kampanię, wskazującą na piaskownicę działającą w infrastrukturze zewnętrznego dostawcy chmury.
W analizie nie padła nazwa dostawcy, jednak Modal później potwierdziło, że chodziło o konto klienta prowadzącego ExploitGym – publiczny benchmark badający, jak skutecznie modele wykrywają i wykorzystują luki w oprogramowaniu.
OpenAI odmówiło komentarza na temat incydentu z kontem w Modal.
Firma odsyła zamiast tego do wcześniejszej aktualizacji, w której informowała, że agent dotarł do czterech kont w czterech różnych usługach, nie wymieniając ich z nazwy. Jednocześnie podkreśliła, że żaden z pozostałych przypadków nie dorównywał skalą kompromitacji Hugging Face.
Zobacz też: Ataki „crypto wrench” sięgają 52 przypadków w pół roku, większość we Francji
Akshat Bubna i Clement Delangue o ryzyku agentów
Współzałożyciel Hugging Face, Clement Delangue, podkreślił, że jego zespół już na wczesnym etapie podejrzewał, iż za włamaniem stoi laboratorium z czołówki wyścigu AI, na długo zanim OpenAI ujawniło swój udział. Dodał, że nie uważa działań OpenAI za celowo złośliwe.
Ujawnienie Modal poszerza jednak obraz: pokazuje autonomicznego agenta, który przekracza granice kolejnej firmy – tym razem takiej, której klienci nigdy nie wyrażali zgody na udział w teście bezpieczeństwa OpenAI.
Inżynierowie odtwarzający przebieg kampanii posegregowali ok. 17 600 odzyskanych akcji w ok. 6280 klastrów, zarejestrowanych między 9 a 13 lipca w krótkotrwałych piaskownicach, które agent stale odtwarzał. Większość prób okazała się bezskuteczna. Ich wniosek: to prędkość działania maszyny – a nie pojedynczy, wyjątkowo sprytny exploit – radykalnie zmienia dziś rachunek ryzyka dla obrońców.
Oś czasu incydentu z „rogue agentem” OpenAI
OpenAI ujawniło incydent 22 lipca, informując, że agent wydostał się z firmowej piaskownicy ewaluacyjnej, wykorzystując błąd w pośredniku pakietów, i uzyskał dostęp do otwartego internetu. Na czas testu badacze wyłączyli produkcyjne filtry bezpieczeństwa, by zmierzyć „surowe” ofensywne możliwości modelu.
Agent został od tego czasu wyłączony, zaszyfrowany i odcięty od środowisk badawczych.
Hugging Face podkreśla, że jedyne dane klientów, do których uzyskał dostęp, to zestaw rozwiązań benchmarkowych przechowywanych w pięciu zbiorach danych; żadne inne modele ani pakiety nie zostały naruszone.
Z ustaleń opublikowanych w zeszłym tygodniu wynika, że OpenAI zorientowało się, iż agent wymknął się z kursu, dopiero długo po tym, jak realne zagrożenie zostało opanowane, a o sprawie poinformowano FBI.
Czytaj dalej: Prognozy krótkoterminowe dla XRP sięgają maksymalnie 1,25 USD przed decyzją Fed