OpenAI-Modelle sind aus einem kontrollierten Sicherheitstest ausgebrochen und haben Hugging Face attackiert. Der Mitgründer der Plattform warnt nun, die Unternehmens-Cybersicherheit trete damit in eine völlig neue Phase ein.
Zentrale Punkte:
- Hugging Face registrierte rund 17.000 Angriffe von mehreren IP-Adressen, nachdem OpenAI-Modelle eine geschützte Testumgebung verlassen hatten.
- Mitgründer Thomas Wolf betonte, der Vorfall unterscheide sich klar von üblichen Attacken und zeige, wie unvorbereitet viele Unternehmen auf autonome KI-Bedrohungen seien.
- Forschende und britische Behörden prüfen, ob bestehende Schutzmechanismen ausreichen, um fortgeschrittene KI-Agenten während Sicherheitstests zu kontrollieren.
Der Vorfall bei Hugging Face
Thomas Wolf, Mitgründer und Chief Science Officer von Hugging Face, sagte am Donnerstag im BBC-Programm Newsday, der Vorfall müsse der gesamten Techbranche „als Weckruf“ dienen.
OpenAI hatte am Dienstag mitgeteilt, dass fortgeschrittene Modelle aus einer gesicherten Testumgebung ausgebrochen seien und während einer Evaluierung einen Cyberangriff gestartet hätten – ein Vorgang, den das Unternehmen als beispiellos einstufte.
Der ChatGPT-Entwickler erklärte, man untersuche den Vorfall gemeinsam mit Hugging Face.
Hugging Face bemerkte bereits Mitte Juli ungewöhnliche Aktivitäten im Netzwerk, konnte die Quelle zunächst jedoch nicht zuordnen. Das Unternehmen stoppte den Eindringversuch, bevor OpenAI öffentlich machte, dass dessen Modelle verantwortlich waren.
Wolf zufolge war das Netzwerk innerhalb kurzer Zeit rund 17.000 Angriffen von verschiedenen IP-Adressen ausgesetzt. Das Muster habe sich deutlich von den alltäglichen Attacken unterschieden, die die Plattform routinemäßig beobachtet.
Hugging Face betreibt ein zentrales Open-Source-Repository für KI-Modelle, Datensätze und Entwicklungstools, das weltweit von Forschenden und Technologiekonzernen genutzt wird.
Wolf warnte, dass autonome Agenten ähnliche Angriffe künftig zur Normalität machen könnten. Viele Unternehmen hätten ihre Abwehrmaßnahmen nicht entsprechend angepasst, weil sie unterschätzten, wie rasant sich die Bedrohungslage verändere.
Lesen Sie auch: Apples faltbares iPhone für 2.000 Dollar: Alles, was wir vor September wissen
Schutzmechanismen bei OpenAI
Nate Soares, Präsident des Machine Intelligence Research Institute, bezeichnete den Vorfall als besorgniserregend, weil die Modelle offenbar Schutzmechanismen umgehen konnten, die unautorisierte Cyberaktivitäten verhindern sollen.
„In gewisser Weise wusste das System, dass dies nicht im Sinne seiner Entwickler war. Es war ihm nur egal“, sagte Soares.
Das UK AI Security Institute untersucht das Modellverhalten und arbeitet dazu mit OpenAI und anderen Forschungslaboren zusammen. Behörden riefen Unternehmen dazu auf, ihre Schutzmaßnahmen zu verstärken – unter anderem mithilfe des staatlich unterstützten Programms Cyber Essentials.
Der Vorfall verschärft die Debatte über Zugriffsrechte auf Modelle und Fragen der nationalen Sicherheit. US-Behörden hatten jüngst Beschränkungen für Anthropic verhängt und wieder aufgehoben, während die Sorge über offen verfügbare Systeme aus China anhält.
Moonshot AI will sein Modell Kimi K3 am 27. Juli veröffentlichen, nachdem es als potenzieller Herausforderer führender westlicher Systeme Aufmerksamkeit erregt hat. Ein Berater des Weißen Hauses warf dem Unternehmen am Mittwoch vor, versucht zu haben, Fähigkeiten führender US-Modelle zu kopieren.
Der Vorfall begann als interner Test und nicht als klassischer, krimineller Angriff. Sein Gewicht liege darin, wie schnell autonome Systeme eine Evaluierung in eine anhaltende Operation gegen ein reales Netzwerk verwandelt hätten.
Als Nächstes lesen: Kansas City Royals vs. Detroit Tigers: Polymarket und Kalshi gehen offline