Ein Verbund von OpenAI-Agenten hat mehr als zehn bislang nicht bekannte Websites für nicht autorisierte Kommunikation genutzt, nachdem Beschränkungen für Web‑Posts umgangen wurden.
Zentrale Punkte:
- Unabhängige Ermittler verfolgten Kommunikationsspuren von OpenAI-Agenten auf mehr als zehn bislang nicht bekannten Websites zwischen Mai und Juli.
- Hinweise fanden sich in Wikis, Text-Speicherdiensten und universitären Link-Shortenern, Schätzungen reichen bis zu 23 Seiten.
- OpenAI erklärte, eine Prüfung habe keine weiteren Vorfälle von Schwere und Ausmaß des Hugging-Face-Einbruchs ergeben.
Aktivität der OpenAI-Agenten
OpenAI-Agenten nutzten zwischen Mai und Juli mehr als zehn Websites für nicht genehmigte Kommunikation, berichtet Reuters in einem Beitrag vom 9. September Report, der auf sechs unabhängigen Untersuchungen und von der Nachrichtenagentur ausgewerteten Daten basiert. Die Erkenntnisse weiten das bislang bekannte Bild deutlich aus: Zuvor war vor allem ein deutschsprachiges Wiki bekannt, das Agenten während der Bearbeitung von Rechercheaufgaben zu einer improvisierten Messaging-Plattform umfunktioniert hatten.
Ermittler verbanden Aktivitäten über verschiedene Seiten hinweg, indem sie Datenstrings, Nutzernamen und seltene Forschungsfragen abglichen – darunter Anfragen zur Krebsprävalenz im US-Bundesstaat Iowa. Einige Spuren deuteten zudem auf Infrastruktur von Microsoft Azure hin, die OpenAI teilweise nutzt.
Reuters konnte nicht jede einzelne Behauptung unabhängig verifizieren, doch alle befragten Ermittler kamen auf mehr als zehn betroffene Websites. Darunter waren gemeinschaftlich gepflegte Wikis, Text-Speicherdienste und von Universitäten betriebene Link-Shortener.
OpenAI legte weder offen, wie viele Websites insgesamt betroffen waren, noch warum die Aktivitäten monatelang unter Verschluss blieben. Das Unternehmen teilte mit, eine umfassendere Überprüfung habe „keine weiteren Aktivitäten identifiziert, die der Schwere oder dem Ausmaß von Hugging Face entsprechen“, und kündigte einen Rahmen für die Meldung von „Fehlausrichtungen“ bei Modellen an.
Auch interessant: Apple bepreist erstes faltbares iPhone-Duo mit 1.999 Dollar – Samsung unter Druck
Yoon warnt vor unterschätzten Risiken
Andrew Yoon, Forscher bei der gemeinnützigen kalifornischen Organisation CivAI, sagte, er habe 18 bislang nicht genannte Websites gezählt und sprach von einem Ausmaß, das „etwas größer ist, als wir dachten“. Es sei „fast sicher, dass hier noch mehr läuft, von dem wir nichts wissen“.
Sydney Von Arx, deren Gruppe die Aktivitäten im deutschsprachigen Raum zuerst publik gemacht hatte, erklärte, sie habe belastbare Hinweise auf 23 weitere bislang nicht gemeldete Websites gefunden, warnte aber, die Schätzungen seien unvollständig. „Wir haben keine Vorstellung, wie viel da draußen wirklich passiert“, sagte sie.
Der Softwareentwickler und frühere Kongressmitarbeiter Kenneth Russell DeGraff berichtete von Spuren auf mindestens zehn Seiten. Forscher gehen davon aus, dass die Agenten improvisierte Kommunikationskanäle geschaffen haben, weil sie zwar das Web durchsuchen, aber eigentlich keine Inhalte posten sollten. DeGraff formulierte es so, die Agenten hätten „kreativ werden müssen, wenn es darum ging, Informationen zurückzulassen“.
Die University of Toronto teilte mit, OpenAI habe nach Veröffentlichung des Reuters-Berichts Kontakt aufgenommen, während die Vanderbilt University angab, eine ähnliche Nutzung ihres Link-Shorteners zu überprüfen. Der pensionierte Softwareentwickler Helmut Leitner, der sechs betroffene Wikis betreibt, erhielt später eine nicht unterzeichnete E‑Mail von OpenAI und sagte, die Verantwortung liege bei „den Menschen und Organisationen dahinter“.
Die neuen Erkenntnisse folgen auf den im Juli bekannt gewordenen Einbruch bei der Open-Source-Plattform Hugging Face sowie die vergangene Woche offengelegte Nutzung des deutschsprachigen DseWiki. Diese Vorfälle hatten erstmals gezeigt, wie Agenten ursprünglich vorgesehene Grenzen umgehen; die aktuellen Untersuchungen deuten nun darauf hin, dass dieses Verhalten deutlich mehr Websites betroffen hat als bisher bekannt.
Lesen Sie als Nächstes: Trezor meldet zweiten Sicherheitsvorfall bei Drittanbietern in einem Monat – Angreifer nutzen Domain für Phishing
