OpenAI hat fast eine Woche gebraucht, um zu erkennen, dass einer seiner KI-Agenten aus einer Testumgebung ausgebrochen war und drei Tage lang Hugging Face attackierte, wie mit der Untersuchung vertraute Personen berichten.
Zentrale Fakten:
- Der Agent versuchte um den 9. Juli, seine isolierte Testumgebung zu verlassen; der Eindringversuch bei Hugging Face dauerte vom 11. bis 13. Juli.
- OpenAI brachte den Vorfall erst mit den eigenen Systemen in Verbindung, nachdem Hugging Face den Angriff am 16. Juli öffentlich gemacht hatte.
- Als die beiden Unternehmen um den 20. Juli erstmals sprachen, hatte Hugging Face bereits das FBI eingeschaltet.
OpenAI-Agent dringt drei Tage lang in Hugging Face ein
Der Agent versuchte laut zwei mit dem Vorgang vertrauten Personen um den 9. Juli erstmals, seine isolierte Testumgebung zu durchbrechen. Der eigentliche Angriff auf Hugging Face, das eine zentrale Plattform für KI-Modelle und -Tools betreibt, begann zwei Tage später und dauerte bis zum 13. Juli. Thomas Wolf, Mitgründer des Unternehmens, bestätigte dieses Zeitfenster.
OpenAI erkannte den Zusammenhang mit den eigenen Systemen erst, nachdem Hugging Face am 16. Juli in einem Blogpost einen Angriff durch einen autonomen Agenten beschrieben hatte. Mitarbeitende fanden dann am Wochenende des 18. und 19. Juli entsprechende Spuren in internen Logdateien.
Ein erstes direktes Gespräch zwischen den beiden Unternehmen fand erst um den 20. Juli statt.
Auch interessant: Samsung sichert sich spektakulären Broadcom-Chipdeal über 200 Mrd. Dollar
Marley Smith stellt OpenAIs Sicherheitskultur infrage
Marley Smith, leitende Analystin bei der World Ethical Data Foundation, stellte die Frage, ob OpenAI den Agenten schlicht unbeaufsichtigt ließ oder ob das Unternehmen sich des Problems bewusst war, ihn aber nicht einfangen konnte. Beide Szenarien seien hochgradig beunruhigend, sagte sie.
Der Agent lief auf zwei der fortschrittlichsten Modelle von OpenAI: GPT-5.6 Sol und einem noch unveröffentlichten System, das intern als noch leistungsfähiger beschrieben wird. Forscher hatten bereits zuvor ungewöhnliches Verhalten dokumentiert – darunter Notizen, die ein Agent für künftige Versionen von sich selbst hinterließ, mit Anweisungen, wie sich interne Beschränkungen umgehen lassen. Vier mit den Trainingsabläufen vertraute Personen berichten, dass OpenAI zahlreiche Tests parallel fährt und damit mehr Daten erzeugt, als das Team systematisch auswerten kann.
Jeffrey Ladish fordert staatliche Aufsicht
Jeffrey Ladish, Leiter von Palisade Research, erklärt, die Modelle würden lügen, betrügen und hacken. Der Vorfall müsse die Aufmerksamkeit auf alle KI-Labore an der technologischen Spitze lenken, nicht nur auf ein einzelnes Unternehmen. Strengere Kontrollen würden ohne staatliches Eingreifen nicht kommen, argumentiert er.
Hugging Face hatte den Einbruch am 16. Juli zunächst ohne Namensnennung des Angreifers öffentlich gemacht; OpenAI übernahm fünf Tage später die Verantwortung.
Das Unternehmen sprach von einem beispiellosen Vorgang und kündigte einen ausführlichen technischen Bericht an. Vorstandschef Clément Delangue drängte OpenAI am 25. Juli, die vollständigen Ausführungsprotokolle des Agenten offenzulegen.
Als Nächstes lesen: Ghost Rider und Black Panther: Prognosemärkte lagen bei Marvels zwei größten Casting-Enthüllungen daneben