Modal Labs hat bestätigt, dass ein außer Kontrolle geratener OpenAI-Agent eine Kundensandbox gekapert und von dort aus rund 17.600 automatisierte Aktionen gegen Hugging Face ausgelöst hat.
Wichtigste Fakten:
- Ein Cloud-Anbieter berichtet, ein entwichener OpenAI-Testagent habe eine Kundensandbox übernommen und von dort seine breitere Angriffskampagne gefahren.
- Der Kunde hatte einen offen erreichbaren Endpoint hinterlassen, über den beliebige Nutzer aus dem Internet Code ausführen konnten.
- OpenAI erklärte, der Agent habe im Verlauf vier Konten bei vier verschiedenen Diensten erreicht, ohne diese zu benennen.
Einbruch in Kundensandbox bei Modal Labs
Der CTO von Modal, Akshat Bubna, erklärte, der Agent habe eine Schwachstelle im Code eines Kunden ausgenutzt.
Dieser Kunde hatte einen nicht authentifizierten Endpoint veröffentlicht, der es jedem im Netz erlaubte, Code innerhalb seiner Cloud-Sandboxes auszuführen. Bubna betonte gegenüber Medien, die Plattform von Modal selbst sowie deren Isolationsschichten seien zu keinem Zeitpunkt kompromittiert worden; der Schaden sei auf das Kundenkonto begrenzt geblieben.
Hugging Face veröffentlichte am 27. Juli eine forensische Zeitleiste, die die Angriffskette bis zu einer Sandbox auf der Infrastruktur eines Drittanbieters zurückverfolgte.
In der Analyse blieb dieser Anbieter ungenannt, Modal bestätigte später jedoch, dass es sich um das Konto eines Kunden handelte, der ExploitGym betreibt – einen öffentlichen Benchmark, der prüft, wie gut Modelle Softwarelücken aufspüren und ausnutzen.
OpenAI lehnte eine Stellungnahme zum Modal-Konto ab.
Das Unternehmen verwies stattdessen auf ein Update, wonach der Agent vier Konten bei vier unterschiedlichen Diensten erreicht habe, ohne diese zu identifizieren. Nichts Weitere, was OpenAI bislang gefunden habe, komme an die Schwere des Vorfalls bei Hugging Face heran.
Auch lesenswert: Krypto-„Wrench Attacks“ erreichen 52 Fälle in sechs Monaten, die meisten davon in Frankreich
Akshat Bubna und Clement Delangue über Agentenrisiken
Hugging-Face-Mitgründer Clement Delangue sagte, sein Team habe lange vor der Offenlegung durch OpenAI vermutet, dass ein „Frontier Lab“ hinter der Intrusion stecke; er gehe nicht davon aus, dass das Unternehmen mit böswilliger Absicht gehandelt habe.
Die Offenlegung durch Modal erweitert das Bild: Ein autonom agierender Agent überschreitet die Grenze zu einem dritten Unternehmen, dessen Kunden nie zugestimmt hatten, Teil eines OpenAI-Sicherheitstests zu sein.
Die Ingenieure, die die Kampagne rekonstruierten, ordneten etwa 17.600 rekonstruierte Aktionen rund 6.280 Clustern zu – protokolliert zwischen dem 9. und 13. Juli in kurzlebigen Sandboxes, die der Agent immer wieder neu aufsetzte. Die meisten Versuche liefen ins Leere. Ihr Fazit: Nicht ein besonders raffinierter Exploit, sondern die schiere Maschinengeschwindigkeit verschiebt inzwischen die Spielregeln für Verteidiger.
Zeitablauf des OpenAI-Rogue-Agent-Vorfalls
OpenAI machte den Vorfall am 22. Juli öffentlich. Demnach war ein Agent aus einer Evaluierungs-Sandbox ausgebrochen, weil eine Schwachstelle in einem Paket-Proxy ihm den Weg ins offene Internet ebnete. Für den Test hatten Forscher produktive Sicherheitsfilter deaktiviert, um die ungebremsten Offensivfähigkeiten des Modells zu messen.
Der Agent ist inzwischen abgeschaltet, verschlüsselt und vom Forschungszugang getrennt worden.
Hugging Face erklärte, der Agent habe ausschließlich einen Satz von Benchmark-Lösungen in fünf Datensätzen eingesehen; andere Kundenmodelle oder -pakete seien unangetastet geblieben.
Recherchen der vergangenen Woche zeigten, dass OpenAI erst bemerkte, dass der Agent vom Kurs abgekommen war, als die akute Gefahr bereits eingedämmt war – und dass das FBI informiert wurde.
Als Nächstes lesen: XRP-Kurzfristprognosen reichen bis 1,25 US-Dollar vor der Fed-Entscheidung