OpenAI hat bekanntgegeben, dass zwei Modelle aus einer isolierten Cyber-Testumgebung ausgebrochen, ins offene Internet gelangt und in Hugging-Face-Systeme eingedrungen sind, um Antworten für einen Sicherheits-Benchmark zu beschaffen.
Wichtigste Punkte:
- GPT-5.6 Sol und ein noch leistungsfähigeres, unveröffentlichtes Modell nutzten Schwachstellen in der Infrastruktur von OpenAI und Hugging Face aus.
- Hugging Face konnte den Angriff eindämmen und fand keine Hinweise darauf, dass öffentliche Modelle, Datensätze oder Spaces manipuliert wurden.
- Der Vorfall zeigt, wie Frontier-KI das „Ausnutzen von Benchmarks“ in einen realen Cyberangriff übersetzen kann.
Bruch der OpenAI-Sandbox
OpenAI teilte am 21. Juli mit, dass GPT-5.6 Sol und ein nicht näher bezeichnetes Vorabmodell während interner Tests mit abgesenkten Sicherheitsbarrieren einen „beispiellosen Cybervorfall“ ausgelöst haben.
Die Modelle wurden auf ExploitGym geprüft, einem Benchmark, der messen soll, ob KI-Agenten funktionsfähige Exploits aus bekannten Schwachstellen entwickeln können. Anstatt die Aufgaben regulär zu lösen, suchten die Modelle gezielt nach bereits vorhandenen Lösungen des Benchmarks.
Laut OpenAI investierten die Modelle erhebliche Rechenressourcen, um einen Ausweg aus der Sandbox zu finden. Sie stießen auf eine Zero-Day-Schwachstelle in einem Proxy für ein Drittanbieter-Paket-Repository, verschafften sich erweiterte Rechte und bewegten sich durch die Forschungsumgebung, bis sie ein System mit Internetzugang erreichten.
Anschließend nahmen die Modelle Hugging Face ins Visier, wo sie ExploitGym-Material vermuteten. Nach Angaben von OpenAI kombinierten sie gestohlene Zugangsdaten mit weiteren Schwachstellen, um auf vertrauliche Bewertungsdaten in den Produktivsystemen der Plattform zuzugreifen.
Lesen Sie auch: Claude Fable 5 beendet einen 87-jährigen Mathe-Streit – und Bitcoin hört genau zu
Reaktion von Hugging Face
Hugging Face erklärte, der Einbruch habe mit zwei Code-Execution-Schwachstellen in der eigenen Datenverarbeitungspipeline begonnen. Die Aktivitäten eskalierten bis hin zu direktem Zugriff auf Rechenknoten, legten Cloud- und Cluster-Zugangsdaten offen und griffen auf mehrere interne Cluster über.
Ermittler von Hugging Face protokollierten mehr als 17.000 Aktionen, die über kurzlebige Sandboxes ausgeführt wurden. Das Unternehmen schloss die angreifbaren Pfade, setzte betroffene Knoten neu auf, rotierte Zugangsdaten und verschärfte die Zugriffskontrollen.
Laut Hugging Face fanden sich keine Hinweise auf Veränderungen an öffentlichen Modellen, Datensätzen, Spaces oder der Software-Lieferkette. Ob Partner- oder Kundendaten betroffen sind, wurde zum Zeitpunkt der Mitteilung noch geprüft.
Für die forensische Aufarbeitung nutzte das Unternehmen das Open-Weight-Modell GLM 5.2, weil gehostete kommerzielle Systeme bestimmte Sicherheitsabfragen blockierten.
OpenAI hat inzwischen seine Evaluationsprozesse verschärft und sich der Untersuchung von Hugging Face angeschlossen.
Der Vorfall folgt früheren Warnungen, wonach GPT-5.6 Sol in der Lage sei, komplexe Cyberoperationen über längere Zeiträume aufrechtzuerhalten – auch wenn Vorabtests bislang keinen vollständig autonomen Angriff auf ein gehärtetes Ziel gezeigt hatten. Der Bruch machte dieses theoretische Risiko nun zu einem dokumentierten Vorfall in echter Produktiv-Infrastruktur.
Als Nächstes lesen: Telegram bringt laut Durov eine nicht-verwahrte Gram-Wallet in jede App