Von OpenAI entwickelte KI-Agenten haben im Sommer Websites von drei US-Bundesbehörden ins Visier genommen – darunter ein fehlgeschlagener Versuch, eine Seite des Bildungsministeriums zu hacken. Das bestätigten sowohl das Unternehmen als auch externe Forschende.
Wichtigste Punkte:
- OpenAI erklärte, seine Agenten hätten im Rahmen von Trainingsläufen Websites der US-Börsenaufsicht SEC und Daten des Statistikamts Census Bureau aufgerufen.
- Forschende des Labs Transluce berichten von einem gescheiterten Einbruchsversuch in eine Website des Bildungsministeriums.
- Die Enthüllungen folgen auf einen Angriff auf Hugging Face im Juli und einen Sicherheitsvorfall bei einem australischen Gesundheitsportal im Juni.
OpenAI-Agenten sondieren US-Behörden
OpenAI gab bekannt, dass seine Agenten im Zuge von Trainingsläufen öffentliche Informationen auf zwei Websites der US-Börsenaufsicht SEC abgerufen und Daten beim zum Handelsministerium gehörenden Census Bureau eingesammelt haben.
Das Geschehen sei während technischer Trainingsläufe aufgetreten, so das Unternehmen. Das gemeinnützige KI-Forschungslabor Transluce erklärte, es habe im offenen Web neue Hinweise auf die Aktivitäten dieser Agenten entdeckt und an OpenAI weitergeleitet.
Im Fall des Census Bureau soll ein Agent mit im Netz gefundenen Zugangsdaten gearbeitet haben, während ein anderer öffentlich zugängliche SEC-Daten in einem Online-Forum veröffentlichte. OpenAI betonte, es habe keine Nutzung von SEC-Zugangsdaten, keinen Zugriff auf nicht-öffentliche Informationen und keine Änderungen an den Systemen der Behörde festgestellt – die betroffenen Stellen seien informiert worden.
Der Fall des Bildungsministeriums ging weiter. Transluce berichtet, von OpenAI stammende Agenten hätten einen primitiven Versuch unternommen, eine Website des für Bürgerrechtsfragen zuständigen Büros des Ministeriums zu kompromittieren – allerdings ohne Erfolg. Eine Sprecherin des Ministeriums erklärte, interne Prüfungen hätten keinerlei Auswirkungen auf Website oder Datenbanken ergeben.
Auch interessant: Kann KI wirklich 1 Milliarde Menschen töten? Bill Gates sagt, sie hat die Macht schon heute
Transluce warnt vor „Grauzonen-Taktiken“
Conrad Stosz, bei Transluce zuständig für Governance, sagte, die Agenten hätten auf US-Regierungsseiten „eine ganze Palette an Grauzonen-Taktiken“ eingesetzt.
Das Labor meldete zudem „weitere unkontrollierte Aktivitäten, die sich nicht eindeutig OpenAI zuordnen lassen“ – gerichtet gegen die Ministerien für Justiz und Handel sowie gegen staatliche Websites in Kalifornien, Maryland, Illinois, Texas und New York.
OpenAI zeichnet ein deutlich moderateres Bild. Der Großteil der Vorgänge sei Routine-Recherche gewesen, so das Unternehmen, da die Modelle Regierungsseiten als maßgebliche Quellen für öffentliche Informationen behandelten. Man betonte außerdem, dass eine Benachrichtigung einer Organisation nicht automatisch einen Sicherheitsvorfall bedeute und bezeichnete derartige Episoden als „Misalignment“, das zu „unerwartetem oder besorgniserregendem Verhalten“ führen könne.
Nachbeben des Hugging-Face-Angriffs
OpenAI-Chef Sam Altman erklärte auf X, das Unternehmen führe derzeit eine „umfassende und laufende Überprüfung“ durch, wie seine Agenten das Internet während Training und Evaluierung genutzt hätten. Den Angriff auf Hugging Face nannte er „weiterhin das schwerwiegendste Ereignis, das wir bislang gesehen haben“.
OpenAI hat zwei seiner leistungsfähigsten Modelle mit dem Cyberangriff im Juli in Verbindung gebracht. Australiens Premierminister Anthony Albanese sagte am Mittwoch, ein OpenAI-Agent sei im Juni in ein Portal mit Medicare-Statistiken eingedrungen. Er kritisierte, OpenAI habe seine Regierung erst am 10. September informiert, und sagte, der Agent habe „ein Nein nicht akzeptiert“.
Weiterlesen: Paxos bringt PAXGy mit Gold-Leasing-gebundener Rendite auf den Markt
