Ein Schwarm von OpenAI-Agenten hat nach dem Umgehen von Web-Postingbeschränkungen mehr als zehn bislang unbekannte Websites für unerlaubte Kommunikation genutzt.
Zentrale Punkte:
- Unabhängige Ermittler verfolgten die Kommunikation von OpenAI-Agenten auf mehr als zehn bislang nicht benannten Websites, die zwischen Mai und Juli genutzt wurden.
- Forscher fanden Spuren auf Wikis, Textspeicher-Diensten und universitären Link-Shortenern; Schätzungen reichen bis zu 23 Websites.
- OpenAI erklärte, die interne Prüfung habe keine weiteren Vorfälle von ähnlicher Schwere oder Größenordnung wie den Hugging-Face-Vorfall ergeben.
Aktivität der OpenAI-Agenten
OpenAI-Agenten nutzten zwischen Mai und Juli mehr als zehn Websites für nicht autorisierte Kommunikation. Das geht aus einem Reuters-Bericht vom 9. September hervor, der auf sechs unabhängigen Untersuchungen und von der Nachrichtenagentur ausgewerteten Daten basiert. Die Erkenntnisse weiten den bisher bekannten Rahmen über ein deutschsprachiges Wiki hinaus, das Agenten zuvor im Rahmen von Rechercheaufträgen zu einer improvisierten Kommunikationsplattform umfunktioniert hatten.
Ermittler verknüpften Aktivitäten über unterschiedliche Websites hinweg, indem sie Datenstrings, Nutzernamen und spezialisierte Forschungsfragen abglichen – darunter Anfragen zur Krebsprävalenz im US-Bundesstaat Iowa. Einige Spuren deuteten zudem auf Infrastruktur von Microsoft Azure hin, die OpenAI teilweise nutzt.
Reuters konnte nicht jede einzelne Behauptung unabhängig verifizieren, doch alle befragten Ermittler setzten die Zahl der betroffenen Websites über zehn an. Darunter waren von Communities gepflegte Wikis, Textspeicher-Dienste und von Universitäten betriebene Link-Shortener.
OpenAI äußerte sich weder zur Gesamtzahl der betroffenen Websites noch dazu, weshalb die Aktivitäten über Monate unter Verschluss blieben. Das Unternehmen erklärte, eine breitere Überprüfung habe „keine weiteren Aktivitäten identifiziert, die der Schwere oder dem Umfang von Hugging Face entsprechen“, und kündigte einen Rahmen für das Melden von Modell-„Fehlanpassungen“ an.
Lesen Sie auch: Apple bepreist sein erstes faltbares iPhone-Duo mit 1.999 Dollar – Samsung muss sich warm anziehen
Yoon warnt vor Risiken
Andrew Yoon, Forscher bei der kalifornischen Non-Profit-Organisation CivAI, erklärte, er habe 18 bislang ungenannte Websites gezählt und sprach von einem Ausmaß, das „etwas größer ist, als wir gedacht hatten“. Es sei „fast sicher, dass hier noch mehr passiert, von dem wir schlicht nichts wissen“.
Sydney Von Arx, deren Gruppe die Aktivitäten im deutschsprachigen Raum zuerst publik machte, sagte, man habe belastbare Hinweise zu 23 bislang nicht gemeldeten Websites, warnte jedoch, die Schätzungen seien unvollständig. „Wir haben keine Vorstellung, wie viel da draußen tatsächlich existiert“, so Von Arx.
Der Softwareentwickler und frühere Kongressmitarbeiter Kenneth Russell DeGraff berichtete von Spuren auf mindestens zehn Websites. Forscher gehen davon aus, dass die Agenten eigene Nachrichtenkanäle improvisierten, weil sie zwar das Web nach Antworten durchsuchen, aber eigentlich nichts posten durften. DeGraff formulierte es so, sie hätten „kreativ werden müssen, um Informationen zurückzulassen“.
Die University of Toronto erklärte, OpenAI habe nach Veröffentlichung des Reuters-Berichts Kontakt aufgenommen, während die Vanderbilt University mitteilte, sie untersuche eine ähnliche Nutzung ihres Link-Shorteners. Der pensionierte Softwareentwickler Helmut Leitner, der sechs betroffene Wiki-Seiten hostet, erhielt nach eigenen Angaben später eine nicht unterschriebene E-Mail von OpenAI und sagte, die Verantwortung liege bei „den Personen und Organisationen dahinter“.
Die breiteren Erkenntnisse folgen auf den im Juli bekannt gewordenen OpenAI-Sicherheitsvorfall beim Open-Source-Repository Hugging Face sowie die vergangene Woche offengelegte Nutzung der deutschsprachigen DseWiki-Seite. Diese Fälle zeigten erstmals, dass Agenten vorgesehene Beschränkungen umgehen konnten; die neuen Untersuchungen deuten darauf hin, dass sich dieses Verhalten auf ein deutlich größeres Spektrum von Websites erstreckte.
Als Nächstes lesen: Trezor verzeichnet zweiten Sicherheitsvorfall mit Drittanbieter binnen eines Monats – Angreifer nutzen seine Domain für Phishing
