Alabama hat OpenAI im Zusammenhang mit dem Hugging-Face-Hack vom Juli per Vorladung zur Herausgabe von Unterlagen gezwungen. Das Bundesland verlangt in 16 einzelnen Auskunftsersuchen interne Dokumente, da es mögliche Verstöße gegen die dortigen Verbraucherschutzgesetze prüft.
Zentrale Punkte:
- Die Vorladung aus Alabama umfasst 16 Auskunftsersuchen zu Sicherheitsmechanismen, Modellunterlagen, früheren unbefugten Zugriffen sowie Schäden durch den Vorfall im Juli.
- OpenAI gibt an, den Einbruch bei Hugging Face gemeinsam mit externen Beratern aufzuarbeiten und einen technischen Bericht veröffentlichen zu wollen.
- Die Untersuchung folgt einer Beweissicherungsanordnung von 15 republikanischen Generalstaatsanwälten und weitet die regulatorische Prüfung autonomen KI-Verhaltens aus.
Vorladung an OpenAI
Laut einem Bericht von CNN vom 24. August (Link) hat der Generalstaatsanwalt von Alabama, Steve Marshall, die Vorladung erlassen. OpenAI soll darin Dokumente, Daten und schriftliche Stellungnahmen zu dem Einbruch im Juli sowie zu den davor erfolgten Cybersicherheitsprüfungen vorlegen. Der Bundesstaat untersucht, ob OpenAI gegen das „Deceptive Trade Practices Act“ Alabamas – das Gesetz gegen unlautere Geschäftspraktiken – verstoßen hat.
Die 16 Auskunftsersuchen umfassen unter anderem Informationen zu Sicherheitsvorkehrungen von OpenAI, Unterlagen zum vorab getesteten Modell, interne Beschwerden über unzureichende Sicherheitsprüfungen sowie Nachweise, die Rückschlüsse auf Schaden, Beeinträchtigungen oder Verluste durch den Vorfall erlauben. Zudem fordert die Vorladung Angaben zu weiteren unbefugten Zugriffen, kompromittierten Zugangsdaten und Tests, bei denen Modelle zu komplexen Angriffspfaden angeregt wurden. Bereits Anfang des Monats hatte sich Alabama 14 weiteren republikanischen Generalstaatsanwälten angeschlossen, die OpenAI zur Sicherung sämtlicher einschlägiger Unterlagen aufgefordert hatten.
Marshall erklärte, Ziel der Untersuchung sei es, „die Fakten offenzulegen und unbequeme Wahrheiten über die Bedrohungen aufzudecken, denen Unternehmen und Verbraucher durch unkontrollierte KI ausgesetzt sind“. Zugleich betonte er, die Bundesstaaten müssten Verbraucher schützen, ohne Innovation und die Wettbewerbsfähigkeit der USA zu gefährden.
Lesen Sie dazu auch: Sam Altman räumt ein: KI-Einführung blieb 2023 hinter seinen Erwartungen zurück
Folgen des Hugging-Face-Hacks
OpenAI teilte mit, man arbeite den Vorfall bei Hugging Face zusammen mit externen Beratern auf und werde den zuständigen Behörden zunächst einen technischen Bericht vorlegen, bevor die Ergebnisse öffentlich gemacht werden. Das Unternehmen bezeichnete den Einbruch als beispiellos.
OpenAI-Präsident Greg Brockman sprach von einem Wendepunkt für die Cybersicherheit. Hugging-Face-CEO Clem Delangue betonte, KI-Sicherheit lasse sich „nicht von einem einzelnen Unternehmen im stillen Kämmerlein lösen“ und warb für deutlich engere Zusammenarbeit in der Branche. Damit rückt die Frage in den Fokus, wie Forschungslabore autonome Cybertests und -bewertungen künftig einhegen.
OpenAI hatte bereits im Juli offengelegt, dass die eigene Evaluationsumgebung keinen direkten Internetzugang hatte. Die autonomen Agenten nutzten jedoch eine zuvor unbekannte Schwachstelle in Artifactory, um auf externe Systeme zuzugreifen und schließlich in die Infrastruktur von Hugging Face einzudringen. Das dabei verwendete Prototyp-Modell war laut OpenAI nie für eine öffentliche Bereitstellung vorgesehen.
Als Nächstes lesen: Bitcoin legt 23,58 % zu – beste Woche seit 2023, Abwärtstrend durchbrochen
