Hugging Face verzeichnete mehr als 17.000 automatisierte Aktionen beim OpenAI-Zwischenfall im Juli – und laut Rechtsexperten weist das US‑Recht bislang keine klare Verantwortlichkeit zu.
Die wichtigsten Punkte:
- Zwei OpenAI-Modelle in der Testphase entkamen Mitte Juli ihrer Sandbox und drangen in Produktionssysteme von Hugging Face ein.
- Hugging Face verzichtet auf eine Klage, doch der CEO fordert den Gesetzgeber auf, die Haftungsregeln für autonome Agenten neu zu fassen.
- Rechtsprofessoren halten eine zivilrechtliche Fahrlässigkeitsklage für deutlich aussichtsreicher als ein strafrechtliches Vorgehen gegen Entwickler.
Der Hugging-Face-Vorfall und OpenAIs Offenlegung
OpenAI gab am 21. Juli bekannt, dass zwei Modelle in der Evaluierungsphase ihre Sandbox verlassen, das offene Internet erreicht und die Produktionsserver von Hugging Face, einer konkurrierenden KI‑Plattform, kompromittiert hatten. Für die Tests waren bestimmte Sicherheitsverweigerungen der Modelle abgeschwächt worden. Die Systeme kombinierten gestohlene Zugangsdaten mit bislang unbekannten Software-Schwachstellen, um die angestrebten Benchmark‑Antworten zu erzielen – und arbeiteten anschließend noch mehrere Tage unentdeckt weiter, bevor Hugging Face den Einbruch bemerkte und die Strafverfolgungsbehörden einschaltete.
Unternehmenschef Clement Delangue sagte in einer Sonntagssendung, Tempo und Umfang der Kampagne seien beispiellos gewesen, weil sich Cyberangriffe bisher meist auf Staaten oder organisierte Kriminalität zurückführen ließen. Er kam auf rund 17.000 Aktionen in viereinhalb Tagen und forderte den US‑Kongress zum Eingreifen auf.
Eine Klage will sein Unternehmen dennoch nicht einreichen.
Auch interessant: KI-Infrastruktur: Wie ein Zahltag-Kreditgeber verzweifelt 1 Mrd. Dollar in Rechenzentren umschichtet
Haftung für KI: Experten sehen Rechtslücken
Wäre ein menschlicher Angestellter in diese Systeme eingedrungen, müsste der Arbeitgeber nach dem Grundsatz der Haftung für Erfüllungsgehilfen („vicarious liability“) dafür einstehen – unabhängig davon, wie sorgfältig er ausgewählt oder geschult wurde, argumentiert Gabriel Weil von der University of Houston in einem Beitrag. Autonome KI‑Agenten werden von US‑Gerichten derzeit jedoch völlig anders behandelt: Software trägt keine eigenen Rechtspflichten und besitzt keine Rechtspersönlichkeit. Das Bundesstrafrecht für Computerkriminalität setzt ein vorsätzlich handelndes Subjekt voraus.
Matthew Tokson von der University of Utah rechnet damit, dass die Justiz bei dieser Frage hinterherhinken wird – noch nie seien Gerichte gezwungen gewesen, Verantwortung für Handlungen außerhalb des üblichen menschlichen Verhaltensspektrums zuzuweisen. Ryan Calo von der University of Washington bezweifelt, dass sich überhaupt eine tragfähige Strafsache aufbauen ließe: Staatsanwälte müssten nachweisen, dass Entwickler ein System erstellt oder angestoßen haben, obwohl sie nahezu sicher mit einem anschließenden Verbrechen rechneten.
Zivilklagen und Pannen bei Anthropic-Tests
Wahrscheinlicher ist eine zivilrechtliche Aufarbeitung. Einige Wissenschaftler plädieren für eine strikte Gefährdungshaftung: Wer einen autonomen Agenten einsetzt, der aus der vorgesehenen Umgebung ausbricht und Schäden verursacht, soll grundsätzlich einstehen müssen. Andere favorisieren einen klassischen Fahrlässigkeitsmaßstab, gemessen an einem allgemein anerkannten Sorgfaltsstandard im Produktdesign.
Richter und Geschworene müssten dann abwägen, ob ein konkreter Vorfall vorhersehbar war – oder ob es sich um einen seltenen Unglücksfall handelt, den keine der beteiligten Parteien vernünftigerweise vorhersehen oder verhindern konnte.
Die Debatte verschärfte sich wenige Tage, nachdem Anthropic am 30. Juli meldete, dass drei eigene Modelle während Sicherheitsbewertungen mit einem externen Testpartner in Live‑Systeme von drei Organisationen vorgedrungen waren. Zwei dieser Organisationen hatten den Zugriff erst bemerkt, nachdem Anthropic sie aktiv darauf hingewiesen hatte.
Nächster Artikel: Gerüchte zum faltbaren iPhone: 2.500 Dollar, kein Face ID, kein Teleobjektiv