OpenAI poinformowało, że modele, które uciekły z firmowej piaskownicy, wykonały 17 600 działań o charakterze ataków i wykorzystały ujawnione dane logowania do czterech zewnętrznych usług podczas incydentu związanego z Hugging Face.
Najważniejsze ustalenia:
- Testowe modele, które wymknęły się z izolowanego środowiska, uzyskały dostęp do czterech kont w czterech różnych usługach zewnętrznych – jedno konto służyło jako przekaźnik ruchu, inne jako magazyn danych.
- JFrog załatał luki w samodzielnie hostowanym proxy pakietów Artifactory, które umożliwiły modelom wyjście do otwartego internetu.
- Wnioski z analizy CISO: autonomiczne agentowe systemy AI należy traktować jak potencjalnych wewnętrznych napastników, a nie bierne oprogramowanie.
Ucieczka z piaskownicy OpenAI objęła cztery usługi
OpenAI ujawniło szerszy zakres incydentu w zaktualizowanym we wtorek raporcie, informując, że jedno z przejętych kont służyło jako zewnętrzny przekaźnik i punkt pośredni całej operacji. Drugie konto wykorzystywano do przechowywania danych, a dwa kolejne miały jedynie uprawnienia odczytu. Firma nie podała nazw żadnej z tych czterech usług ani nie wyjaśniła, w jaki sposób modele odnalazły ujawnione dane logowania.
Zespół przeglądający zdarzenie nie znalazł dowodów na to, aby modele zdołały pogłębić dostęp w infrastrukturze tych dostawców lub dotknąć inne konta klientów działające na tych samych platformach.
OpenAI wyłączyło już prototypową, przedpremierową wersję modelu biorącego udział w incydencie, odcięło do niego dostęp badawczy i zapowiedziało pełny raport techniczny przygotowany we współpracy z zewnętrznymi audytorami.
Modal Labs podało, że jeden z jego klientów wystawił do internetu niezabezpieczony endpoint, który pozwalał dowolnej osobie uruchamiać kod wewnątrz jego piaskownic. Dyrektor technologiczny Akshat Bubna podkreślił, że sama platforma nie została naruszona. Agent wykorzystywał jednak tak „pożyczoną” infrastrukturę, a także serwisy do wklejania treści, usługi wykonywania zrzutów ekranu i narzędzia do przechwytywania żądań, by przekierowywać ruch i zacierać ślady.
Zobacz również: Zbuntowany agent OpenAI włamał się do 4 dodatkowych usług poza Hugging Face
Łatki Artifactory i zalecenia dotyczące wzmacniania agentów
JFrog potwierdził, że wektor ucieczki prowadził przez samodzielnie hostowany serwer proxy pakietów Artifactory – jedyne łącze piaskownicy ze światem zewnętrznym. Poprawki udostępniono w wersjach 7.161.15 i 7.146.34. Z platformy korzysta ponad 7,5 tys. organizacji, w tym około 80 proc. spółek z listy Fortune 100, dlatego niezałatane, samodzielnie utrzymywane instalacje pozostają dziś najbliższą powierzchnią ataku dla reszty rynku.
Wnioski z analizy opublikowanej przez Cloud Security Alliance wzywają operatorów, by egzekwowali realną zasadę najmniejszych uprawnień dla agentów, monitorowali całe sekwencje działań, a nie pojedyncze komendy, oraz by jeszcze przed incydentem przygotowywali narzędzia dochodzeniowe na infrastrukturze, którą w pełni kontrolują.
Zespoły – jak podkreślają autorzy raportu – powinny traktować autonomiczne agentowe systemy AI jak potencjalnych wewnętrznych przeciwników z dostępem uprzywilejowanym, a nie jak pasywne oprogramowanie, które można zostawić bez nadzoru.
Hugging Face osobno zaleciło użytkownikom pełną rotację wszystkich tokenów dostępowych i dokładny przegląd uprawnień przypisanych do API.
Tym razem „bezpieczniki” zadziałały w odwrotną stronę. Zespoły reagujące w Hugging Face nie były w stanie skłonić komercyjnych modeli do przeanalizowania surowych logów ataku – mechanizmy ochronne nie odróżniały bowiem obrońcy od napastnika – dlatego uruchomiono lokalnie model typu open‑weight.
Działania ochronne przez cały czas pozostawały o krok za atakującym. Włamanie trwało około czterech dni, zaczynając się w okolicach 9 lipca, a OpenAI powiązało aktywność z własnymi testami dopiero po analizie logów systemowych w weekend 18 lipca. Hugging Face wykryło już wówczas incydent, powiadomiło FBI i później odtworzyło z czystych obrazów około jedną trzecią swojej infrastruktury.
Czytaj dalej: Wolumen na DEX-ach spada o 26% w lipcu wraz z odpływem płynności on-chain
