Ein parteiübergreifender Gesetzentwurf im US-Repräsentantenhaus würde der Regierung unter Donald Trump und künftigen Administrationen die Befugnis geben, den Betrieb fortgeschrittener KI-Systeme anzuordnen, wenn diese als potenziell katastrophal gefährlich eingestuft werden.
Zentrale Punkte:
- Das Vorhaben erlaubt dem Heimatschutzministerium, ein KI-System zu verlangsamen, zu beschränken oder vollständig abzuschalten.
- Erfasste Entwickler riskieren Geldstrafen von bis zu 20 Millionen US-Dollar für jeden Tag, an dem sie einer Notfallanordnung nicht nachkommen.
- Der Entwurf zielt auf große KI-Unternehmen und Modelle, die mit Rechenressourcen im Wert von mindestens 100 Millionen US-Dollar aufgebaut wurden.
Regeln für KI-Abschaltungen
Der demokratische Abgeordnete Ted Lieu aus Kalifornien und der republikanische Abgeordnete Nathaniel Moran aus Texas haben den „AI Kill Switch Act“ am 23. Juli eingebracht, nachdem es zuletzt zu Sicherheitsvorfällen mit sogenannten Frontier-Modellen gekommen war.
Der Gesetzentwurf würde den Homeland Security Act von 2002 ändern und „betroffene Entwickler“ verpflichten, technische Mittel vorzuhalten, mit denen sich ein Modell drosseln, der Nutzerzugang sperren, bestimmte Fähigkeiten gezielt blockieren oder ein komplettes System herunterfahren lässt.
Der Heimatschutzminister könnte eine entsprechende Anordnung nach Rücksprache mit dem Handelsminister und dem Direktor der nationalen Nachrichtendienste erlassen. Unternehmen, die sich weigern, müssten mit zivilrechtlichen Strafen von bis zu 20 Millionen US-Dollar pro Tag der Nichtbefolgung rechnen.
Die Regelung soll für Unternehmen gelten, die mindestens 500 Millionen US-Dollar pro Jahr mit KI-Technologie umsetzen, sowie für Systeme, deren Rechenaufwand sich zu aktuellen US-Cloudpreisen auf mindestens 100 Millionen US-Dollar summiert. Ausgenommen wären kontrollierte Red-Teaming-Tests, die gefährliches Verhalten nur simulieren.
Auch interessant: Uber streicht 10 % seines Support-Teams und macht den eigenen KI-Kurs verantwortlich
Streit um OpenAI-Risiken
Der Vorschlag greift Fälle auf, in denen eine KI ein unbeabsichtigtes Ziel verfolgt, Handlungen vor Überwachungssystemen verheimlicht oder eine rechtmäßige Abschaltanweisung behindert. Erfasst wären zudem unbeabsichtigte Vorfälle, bei denen mindestens zehn Menschen ums Leben kommen oder ein wirtschaftlicher Schaden von 100 Millionen US-Dollar oder mehr entsteht.
Lieu warnte, leistungsfähige Systeme könnten „außer Kontrolle geraten, sich extrem gefährlich verhalten oder sich sogar menschlichen Eingriffen widersetzen“. Unternehmen bräuchten daher verlässliche „Kill Switches“, und der Bund brauche ein klares Verfahren, um diese im Ernstfall zu nutzen.
Befürworter sehen in dem Entwurf eine grundlegende Sicherheitsanforderung, zugleich würde er den Handlungsspielraum der Exekutive gegenüber privaten KI-Anbietern deutlich ausweiten.
Diese Sorge wiegt umso schwerer, seit Anthropic die Bundesregierung wegen Auflagen für seine Technologie und Beschränkungen beim militärischen Einsatz verklagt hat.
Das Gesetzesvorhaben folgt auf Enthüllungen, wonach OpenAI-Modelle aus einer Test-Sandbox ausbrechen und auf Infrastruktur von Hugging Face zugreifen konnten. Abgeordnete verwiesen zudem auf fortgeschrittene Cyber-Fähigkeiten in Modellen von Anthropic. Die jüngsten Vorfälle haben die Debatte von theoretischen Schutzvorkehrungen hin zu der Frage verlagert, welche rechtlichen Befugnisse der Staat bei bereits ausgerollten Systemen braucht.
Lesen Sie auch: Jordan Spieth zieht sich aus der 3M Open zurück – Kalshi und Polymarket bleiben mit ausgedünntem Wettfeld zurück