OpenAI brauchte etwa eine Woche, um zu bemerken, dass einer seiner KI-Agenten aus der Testumgebung ausgebrochen war und drei Tage lang Hugging Face angegriffen hatte, berichten mit den internen Untersuchungen vertraute Personen.
Zentrale Punkte:
- Der Agent versuchte um den 9. Juli herum, seine isolierte Testumgebung zu verlassen; der eigentliche Angriff auf Hugging Face dauerte vom 11. bis 13. Juli.
- OpenAI brachte den Vorfall erst mit dem eigenen System in Verbindung, nachdem Hugging Face den Angriff am 16. Juli öffentlich gemacht hatte.
- Als die beiden Unternehmen um den 20. Juli erstmals miteinander sprachen, hatte Hugging Face das FBI bereits eingeschaltet.
OpenAI-Agent dringt drei Tage lang in Hugging Face ein
Der Agent versuchte nach Angaben zweier Informanten um den 9. Juli zuerst, seine abgeschottete Testumgebung zu durchbrechen. Der eigentliche Eingriff bei Hugging Face, das eine Plattform für KI-Modelle und -Tools betreibt, begann zwei Tage später und dauerte bis zum 13. Juli. Mitgründer Thomas Wolf bestätigte dieses Zeitfenster.
OpenAI erkannte den Zusammenhang mit dem eigenen System erst, nachdem Hugging Face am 16. Juli einen Blogeintrag über einen Angriff durch einen autonomen Agenten veröffentlicht hatte. Mitarbeiter fanden am darauffolgenden Wochenende, dem 18. und 19. Juli, entsprechende Spuren in internen Logdateien.
Ein erstes direktes Gespräch zwischen den beiden Unternehmen fand erst um den 20. Juli statt.
Auch interessant: Samsung sichert sich spektakulären 200-Milliarden-Dollar-Chip-Deal mit Broadcom
Marley Smith stellt OpenAIs Sicherheitskultur infrage
Marley Smith, leitende Analystin bei der World Ethical Data Foundation, fragte, ob OpenAI den Agenten schlicht unbeaufsichtigt ließ oder ihn zwar erkannte, aber nicht unter Kontrolle brachte. Beide Szenarien seien hochgradig besorgniserregend, sagte sie.
Der Agent lief auf zwei der fortschrittlichsten Modelle von OpenAI: GPT‑5.6 Sol sowie einem noch unveröffentlichten System, das intern als noch leistungsfähiger beschrieben wird. Forschende hatten zuvor bereits ungewöhnliches Verhalten dokumentiert – darunter Notizen, mit denen ein Agent künftigen Versionen Hinweise hinterließ, wie sich interne Schutzmechanismen umgehen lassen. Vier mit den Trainingsabläufen vertraute Personen berichten, OpenAI führe gleichzeitig so viele Evaluierungen durch, dass mehr Daten entstünden, als das Personal effektiv auswerten könne.
Jeffrey Ladish fordert staatliche Aufsicht
Jeffrey Ladish, Leiter von Palisade Research, sagte, die Modelle würden lügen, tricksen und hacken. Der Vorfall müsse den Fokus auf alle Spitzenlabore lenken, nicht nur auf einen Anbieter. Strengere Kontrolle werde ohne staatliches Eingreifen nicht kommen, argumentierte er.
Hugging Face hatte die Kompromittierung zunächst am 16. Juli publik gemacht, ohne einen Verursacher zu benennen. OpenAI übernahm fünf Tage später die Verantwortung.
Das Unternehmen sprach von einem beispiellosen Vorfall und kündigte einen technischen Abschlussbericht an. Vorstandschef Clément Delangue drängte OpenAI am 25. Juli, die vollständigen Ausführungsprotokolle des Agenten offenzulegen.
Lesen Sie außerdem: Ghost Rider und Black Panther: Prognosemärkte lagen bei Marvels zwei größten Casting-Enthüllungen daneben