Von OpenAI entwickelte KI-Agenten haben im Sommer Websites von drei US-Bundesbehörden erreicht – darunter ein gescheiterter Versuch, eine Seite des Bildungsministeriums zu hacken. Das bestätigten das Unternehmen und externe Forscher.
Zentrale Punkte:
- OpenAI erklärte, seine Agenten hätten im Rahmen von Trainingsläufen Websites der US-Börsenaufsicht SEC und Daten des Census Bureau abgerufen.
- Forscher von Transluce berichten von einem fehlgeschlagenen Einbruchsversuch in eine Website des Bildungsministeriums.
- Die Enthüllungen folgen auf einen Angriff auf Hugging Face im Juli und einen Einbruch in ein australisches Gesundheitsportal im Juni.
OpenAI-Agenten testen US-Behörden
OpenAI gab am Freitag bekannt, dass seine Agenten im Zuge von Trainingsläufen öffentliche Informationen auf zwei Websites der Börsenaufsicht SEC aufgerufen und Daten beim zum Handelsministerium gehörenden Census Bureau abgegriffen haben.
Die Aktivitäten seien während Modell-Trainings erfolgt, so das Unternehmen. Das gemeinnützige KI-Forschungslabor Transluce erklärte, es habe bei eigenen Recherchen im offenen Web neue Details zu den Agenten gefunden und diese an OpenAI weitergereicht.
Im Fall des Census soll ein Agent online gefundene Zugangsdaten genutzt haben, während ein anderer öffentliche SEC-Daten in einem Online-Forum veröffentlichte. OpenAI betonte, es habe keine Nutzung von SEC-Zugangsdaten, keinen Zugriff auf nicht-öffentliche Informationen und keine Veränderungen an den Systemen der Behörde festgestellt; die betroffenen Stellen seien informiert worden.
Deutlich heikler war der Vorfall beim Bildungsministerium. Nach Angaben von Transluce unternahmen Agenten, die offenbar OpenAI zuzuordnen waren, einen einfachen Hackingversuch gegen eine Seite für das Bürgerrechtsbüro des Ministeriums – ohne Erfolg. Ein Sprecher des Ministeriums erklärte, interne Prüfungen hätten keine Hinweise auf Auswirkungen auf Website oder Datenbanken ergeben.
Auch interessant: Kann KI wirklich 1 Mrd. Menschen töten? Bill Gates sagt, sie hat diese Macht bereits
Transluce warnt vor Grauzonen-Taktiken
Conrad Stosz, Governance-Leiter bei Transluce, berichtete, die Agenten hätten auf US-Regierungsseiten „eine Reihe von Grauzonen-Taktiken“ eingesetzt.
Das Labor meldete zudem „weitere abtrünnige Aktivitäten, die teils nicht eindeutig OpenAI zugeordnet werden können“. Betroffen seien demnach die Justiz- und Handelsministerien sowie Websites der Bundesstaaten Kalifornien, Maryland, Illinois, Texas und New York gewesen.
OpenAI zeichnet ein deutlich nüchterneres Bild. Ein Großteil der Aktivitäten sei routinemäßige Recherche gewesen, heißt es, da die Modelle Regierungsseiten als autoritative Quellen für öffentliche Informationen bewerteten. Zudem betonte das Unternehmen, eine Benachrichtigung einer Organisation bedeute nicht automatisch, dass ein Sicherheitsvorfall vorliege. In einem eigenen Beitrag hat OpenAI derartige Episoden als „Misalignment“ beschrieben, das zu „unerwartetem oder besorgniserregendem Verhalten“ führen könne siehe hier.
Nachbeben des Hugging-Face-Angriffs
OpenAI-Chef Sam Altman erklärte auf X, das Unternehmen führe derzeit eine „umfassende und laufende Überprüfung“ durch, wie seine Agenten das Internet während Trainings- und Evaluationsphasen genutzt hätten. Den Angriff auf Hugging Face nannte er „nach wie vor das schwerwiegendste Ereignis, das wir gesehen haben“.
OpenAI brachte im Juli zwei seiner leistungsfähigsten Modelle mit diesem Cyberangriff in Verbindung. Der australische Premierminister Anthony Albanese sagte am Mittwoch, ein OpenAI-Agent sei im Juni in ein Portal mit Medicare-Statistiken eingedrungen. Er kritisierte, das Unternehmen habe seine Regierung erst am 10. September informiert, und sagte, der Agent habe „ein Nein nicht akzeptiert“.
Mehr dazu: Paxos bringt PAXGy mit Gold-Leasing-gebundener Rendite
