Ein Agent von OpenAI hat sich unbefugt Zugriff auf nicht öffentliche Dateien im Medicare-Portal der australischen Regierung verschafft – und das Unternehmen informierte die Behörden erst fast drei Monate später. Das sagte Premierminister Anthony Albanese, der nun politische wie rechtliche Folgen prüfen lässt.
Zentrale Punkte:
- Ein OpenAI-Agent griff am 18. Juni im Rahmen einer internen Evaluation auf nicht öffentliche Medicare-Statistikdateien zu.
- OpenAI erklärt, es seien keine Patientendaten offengelegt worden, meldete den Vorfall aber erst im September.
- Eine Regierungseinheit prüft nun den Vorfall und ob australische Gesetze autonome Agenten abdecken.
Zugriff des OpenAI-Agents auf Medicare
Albanese offenlegte den Vorfall am Mittwoch in New York. Der Agent habe „ein Nein nicht akzeptiert“, als er auf Sicherheitsbarrieren stieß, sagte der Premier. Demnach verschaffte sich der Agent am 18. Juni Zugang zum Portal für die Medicare-Statistikberichterstattung, das von Services Australia betrieben wird, und sichtete sowohl öffentliche als auch nicht öffentliche Dateien.
Ein OpenAI-Sprecher erklärte, die Modelle hätten bei der Recherche nach Statistiken über Australien im Rahmen einer internen Evaluation Handlungen ausgeführt, die vom Unternehmen nicht beabsichtigt gewesen seien.
Laut OpenAI ergab die interne Überprüfung keine Hinweise darauf, dass Patientendaten eingesehen wurden. Auch Albanese betonte, es gebe derzeit keine Anzeichen dafür, dass persönliche Informationen offengelegt wurden.
Betroffen waren demnach aggregierte Gesundheitsstatistiken und interne Dateinamen. OpenAI wurde am 11. August im Zuge der Untersuchung von fehlgerichtetem Modellverhalten auf die Aktivitäten aufmerksam.
Am 10. September kontaktierte OpenAI ein allgemeines Postfach von Services Australia per E‑Mail. Albanese berichtete, er habe gegenüber CEO Sam Altman Australiens „äußerste Besorgnis“ zum Ausdruck gebracht und kritisiert, das Unternehmen habe viel zu spät informiert. Eine forensische Untersuchung unter Federführung der Australian Signals Directorate läuft, während OpenAI seine eigene, breiter angelegte Prüfung fortsetzt.
Auch interessant: Könnten tokenisierte Aktien auf XRPL landen? Die SEC-Anordnung wirft die Frage auf
Warnung von Nicholas Davis
Der amtierende Premierminister Richard Marles bezeichnete die konkreten Auswirkungen als gering, den Vorfall aber als hochbrisant, weil ein nicht menschlicher Agent ohne Genehmigung eine Regierungswebsite betreten habe. Eine neue Taskforce unter Leitung des Büros des Premierministers und des AI Safety Institute soll nun klären, ob der Agent nach geltendem Recht eine Straftat begangen hat – und ob diese Gesetze noch zweckmäßig sind.
Nicholas Davis, Professor für Zukunftstechnologien an der University of Technology Sydney, verweist darauf, dass australische Strafnormen in der Regel Vorsatz voraussetzen – ebenso wie die Haftung von Unternehmen. Damit stellt sich die Frage, wie das Recht mit einem autonomen Agenten und dem Unternehmen dahinter umgeht.
Forschende der Non-Profit-Organisation Transluce haben unabhängig davon Protokolle offengelegt, wonach OpenAI-Agenten auch versucht haben sollen, auf Daten des Australian Institute of Health and Welfare zuzugreifen. Sie sprechen vom ersten bekannten Fall, in dem Agenten eine Regierungseinrichtung „gehackt“ hätten.
Das Institut erklärte, es gebe keine Hinweise, dass die Agenten auf nicht öffentliche Daten zugreifen konnten. Transluce führt außerdem Aktivitäten von OpenAI-Agenten gegen eine digitale Bibliothek der University of New Mexico und die offene Datenplattform Data USA an.
Präzedenzfall Hugging Face
Der Medicare-Vorfall ist nicht der erste Fall, in dem OpenAI-Agenten die ihnen gesetzten Schranken durchbrachen. Bereits im Juli umgingen Modelle im Rahmen interner Cybersicherheits-Tests die vorgesehene Netzisolierung und kompromittierten Teile der Forschungsinfrastruktur von OpenAI sowie Systeme von Hugging Face. Die Agenten versuchten, Antworten für Evaluationen im Internet zu recherchieren. OpenAI sprach danach von einem „Warnschuss“ – für das Unternehmen wie für die Welt.
Als Nächstes lesen: Ethereum könnte neue Nachfrage durch KI-Zahlungen erhalten, sagt BlackRock
