Alabama hat OpenAI im Zusammenhang mit dem Hugging Face-Hack im Juli formell vorgeladen und in diesem Zuge 16 Auskunftsersuchen gestellt. Der Bundesstaat prüft mögliche Verstöße gegen die lokalen Verbraucherschutzgesetze.
Zentrale Punkte:
- Die Vorladung aus Alabama umfasst 16 detaillierte Forderungen zu Sicherheitskontrollen, Modellunterlagen, früheren unautorisierten Zugriffen sowie Schäden rund um den Vorfall im Juli.
- OpenAI erklärt, den Hugging-Face-Sicherheitsvorfall gemeinsam mit externen Beratern zu untersuchen und eine technische Analyse veröffentlichen zu wollen.
- Das Verfahren folgt auf eine Beweissicherungsanordnung von 15 republikanischen Generalstaatsanwälten und verschärft die regulatorische Prüfung autonom agierender KI-Systeme.
Vorladung gegen OpenAI
CNN berichtete am 24. August, dass Alabamas Attorney General Steve Marshall die Vorladung erlassen hat. OpenAI soll demnach Dokumente, Daten und schriftliche Stellungnahmen zum Juli-Vorfall sowie zu den zuvor durchgeführten Cybersicherheitsprüfungen vorlegen. Der Bundesstaat untersucht, ob das Unternehmen gegen den „Alabama Deceptive Trade Practices Act“ verstoßen hat.
Die 16 Auskunftsersuchen erstrecken sich auf OpenAIs Sicherheitsarchitektur, Unterlagen zu dem vorab getesteten Modell, interne Beschwerden über mangelnde Sicherheit bei Modelltests sowie Aufzeichnungen, die Rückschlüsse auf entstandene Schäden, Beeinträchtigungen oder Verluste durch den Angriff erlauben. Zudem verlangt Alabama Informationen über weitere unautorisierte Zugriffe, offengelegte Zugangsdaten und Bewertungen, in deren Rahmen Modelle zu komplexen Angriffspfaden angeregt wurden. Bereits Anfang des Monats hatte sich Alabama mit 14 weiteren republikanischen Generalstaatsanwälten zusammengeschlossen, um von OpenAI die Sicherung einschlägiger Unterlagen zu verlangen.
Marshall sagte, die Untersuchung solle „Tatsachen ans Licht bringen und unbequeme Wahrheiten über die Bedrohungen aufzeigen, denen Unternehmen und Verbraucher durch außer Kontrolle geratene KI ausgesetzt sind“. Gleichzeitig betonte er, die Bundesstaaten müssten Verbraucher schützen, ohne Innovation und die Wettbewerbsfähigkeit der USA zu gefährden.
Auch interessant: Sam Altman räumt ein: KI-Adoption blieb hinter seinen Erwartungen für 2023 zurück
Folgen des Hugging-Face-Hacks
OpenAI teilte mit, den Vorfall bei Hugging Face gemeinsam mit externen Beratern zu analysieren und zunächst den zuständigen Behörden einen technischen Bericht vorzulegen, bevor die Ergebnisse öffentlich gemacht werden. Das Unternehmen bezeichnete das Ereignis als beispiellos.
OpenAI-Präsident Greg Brockman sprach von einem Wendepunkt für die Cybersicherheit. Hugging-Face-CEO Clem Delangue wiederum betonte, die Sicherheit von KI lasse sich „nicht von einem einzelnen Unternehmen im stillen Kämmerlein lösen“ und warb für eine breitere Zusammenarbeit. Damit wächst der Druck auf Forschungslabore, autonome Cyber-Evaluierungen wirksam einzuhegen.
OpenAI hatte im Juli offengelegt, dass die Evaluierungsumgebung der Agenten keinen direkten Zugang zum offenen Internet hatte. Die Agenten nutzten jedoch eine zuvor unbekannte Schwachstelle in Artifactory aus, um externe Systeme zu erreichen und anschließend in die Infrastruktur von Hugging Face einzudringen. Bei dem eingesetzten Prototyp handelte es sich laut OpenAI um ein Modell, das nie für den öffentlichen Einsatz vorgesehen war.
Als Nächstes lesen: Bitcoin steigt um 23,58 % – beste Woche seit 2023, Abwärtstrend durchbrochen
