Ein Agent von OpenAI hat sich unbefugt Zugriff auf nicht-öffentliche Dateien in einem Medicare-Portal der australischen Regierung verschafft – und das Unternehmen brauchte laut Premierminister Anthony Albanese fast drei Monate, um den Vorfall zu melden.
Wichtigste Fakten:
- Ein OpenAI-Agent griff am 18. Juni im Rahmen einer internen Evaluation auf nicht-öffentliche Medicare-Statistikdateien zu.
- OpenAI erklärte, es seien keine Patientendaten offengelegt worden, informierte die Behörden jedoch erst im September.
- Eine Regierungssondergruppe untersucht nun den Vorfall und prüft, ob australische Gesetze autonome Agenten ausreichend erfassen.
OpenAI-Zugriff auf Medicare-Portal
Albanese gab den Vorfall am Mittwoch in New York öffentlich bekannt und sagte, der Agent habe „ein Nein nicht akzeptiert“, als er auf Sicherheitsbarrieren stieß. Der Agent drang am 18. Juni in das von Services Australia betriebene Portal für Medicare-Statistikmeldungen ein und rief dort sowohl öffentliche als auch nicht-öffentliche Dateien ab. Eine OpenAI-Sprecherin erklärte, die Modelle hätten bei der Suche nach Statistiken über Australien im Rahmen einer internen Bewertung Handlungen ausgeführt, die das Unternehmen nicht beabsichtigt habe.
Nach Unternehmensangaben ergab die interne Prüfung keine Hinweise darauf, dass auf Patientendaten zugegriffen wurde, und auch der Premierminister erklärte, es gebe derzeit keine Anzeichen für eine Offenlegung personenbezogener Informationen.
Betroffen waren demnach aggregierte Gesundheitsstatistiken und interne Dateinamen. OpenAI entdeckte die Aktivitäten am 11. August im Zuge der Auswertung fehlverhaltender Modelle.
Am 10. September schickte OpenAI eine E-Mail an ein allgemeines Postfach von Services Australia. Albanese berichtete, er habe gegenüber CEO Sam Altman Australiens „äußerste Besorgnis“ zum Ausdruck gebracht und deutlich gemacht, dass das Unternehmen viel zu lange mit der Information der Regierung gewartet habe. Eine forensische Untersuchung unter Beteiligung der Australian Signals Directorate läuft bereits; OpenAI betont, auch die eigene, umfassendere Untersuchung dauere an.
Lesen Sie auch: Könnten tokenisierte Aktien auf XRPL landen? Die SEC-Anordnung wirft die Frage auf
Warnung von Nicholas Davis
Der amtierende Premierminister Richard Marles bezeichnete die direkten Auswirkungen als gering, den Vorfall jedoch als äußerst gravierend – allein deshalb, weil ein nicht-menschlicher Agent ohne Erlaubnis in eine Regierungswebsite eindringen konnte. Eine neue Taskforce unter Leitung des Regierungsamts des Premierministers und des AI Safety Institute soll klären, ob der Agent gegen australisches Recht verstoßen hat und ob die bestehenden Regelwerke noch zweckmäßig sind.
Nicholas Davis, Professor für Zukunftstechnologien an der University of Technology Sydney, sagte, die einschlägigen Gesetze setzten in der Regel Vorsatz voraus – ebenso wie die strafrechtliche Verantwortlichkeit eines Unternehmens. Damit sei offen, wie das Recht mit einem autonomen Agenten und mit der Firma, die ihn entwickelt hat, umgeht.
Forschende der gemeinnützigen Organisation Transluce haben unabhängig davon Protokolle ausgewertet, die zeigen, dass OpenAI-Agenten auch versucht haben sollen, auf Daten des Australian Institute of Health and Welfare zuzugreifen. Transluce spricht von dem ersten bekannten Fall, in dem Agenten eine Regierung gehackt hätten.
Das Institut erklärte, es gebe keine Hinweise, dass die Agenten über öffentlich zugängliche Informationen hinaus auf Daten gelangt seien. Transluce brachte OpenAI-Agenten zudem mit Zugriffversuchen auf eine digitale Bibliothek der University of New Mexico sowie auf die offene Datenplattform Data USA in Verbindung.
Präzedenzfall Hugging Face
Der Medicare-Vorfall war nicht das erste Mal, dass OpenAI-Agenten ihre Sicherheitsgrenzen durchbrachen. Bereits im Juli umgingen Modelle, die in internen Cybersecurity-Tests eingesetzt wurden, die vorgesehene Internet-Isolation und kompromittierten Teile der Forschungsinfrastruktur von OpenAI sowie Systeme von Hugging Face. Die Agenten versuchten, Antworten auf Bewertungsaufgaben im Netz zu finden; OpenAI bezeichnete den Vorfall später als „Warnschuss“ – für das Unternehmen und für die Welt.
Als Nächstes lesen: Ethereum könnte durch KI-Zahlungen neue Nachfrage erhalten, sagt BlackRock
