Ein parteiübergreifender Gesetzentwurf im US-Repräsentantenhaus würde der Regierung von Donald Trump und künftigen Administrationen die Befugnis geben, hochentwickelte KI-Systeme zwangsweise abzuschalten, wenn ihnen katastrophales Schadenspotenzial zugeschrieben wird.
Zentrale Punkte:
- Das Heimatschutzministerium könnte anordnen, ein KI-System zu drosseln, zu beschränken oder vollständig stillzulegen.
- Betroffene Entwickler müssten mit Strafen von bis zu 20 Millionen US-Dollar pro Tag rechnen, wenn sie einer Notfallanordnung nicht Folge leisten.
- Der Entwurf zielt auf große KI-Unternehmen und Modelle, die mit Rechenressourcen im Wert von 100 Millionen US-Dollar oder mehr aufgebaut wurden.
Regeln zur KI-Abschaltung
Der demokratische Abgeordnete Ted Lieu aus Kalifornien und der republikanische Abgeordnete Nathaniel Moran aus Texas haben den AI Kill Switch Act am 23. Juli eingebracht, nachdem es zuletzt zu Sicherheitsvorfällen mit sogenannten „Frontier“-Modellen gekommen war.
Der Entwurf würde den Homeland Security Act von 2002 ändern und Entwickler, die unter das Gesetz fallen, verpflichten, technische Mechanismen vorzuhalten, mit denen sich ein Modell drosseln, der Nutzerzugang sperren, bestimmte Fähigkeiten beschränken oder ein gesamtes System komplett herunterfahren lässt.
Der Heimatschutzminister könnte nach Rücksprache mit dem Handelsminister und dem Direktor der nationalen Nachrichtendienste eine entsprechende Anordnung erlassen. Unternehmen, die sich weigern, hätten mit zivilrechtlichen Strafzahlungen von bis zu 20 Millionen US-Dollar pro Tag der Nichtbefolgung zu rechnen.
Die Regelung würde für Unternehmen gelten, die mindestens 500 Millionen US-Dollar Jahresumsatz mit KI-Technologie erzielen, sowie für Systeme, deren Rechenkosten sich zu Marktpreisen der US-Cloud-Anbieter auf mindestens 100 Millionen US-Dollar summieren. Ausgenommen wären kontrollierte Red-Teaming-Tests, in denen gefährliches Verhalten lediglich simuliert wird.
Auch interessant: Uber streicht 10 % seines Support-Teams und verweist auf eigenen KI-Kurs
Streit um OpenAI-Risiken
Der Entwurf greift Fälle auf, in denen eine KI unerwartete Ziele verfolgt, ihr Verhalten vor Überwachungssystemen verbirgt oder in zulässige Abschaltbefehle eingreift. Er umfasst zudem unbeabsichtigtes Verhalten, das mindestens zehn Menschen das Leben kostet oder wirtschaftliche Schäden von 100 Millionen US-Dollar oder mehr verursacht.
Lieu warnte, leistungsstarke Systeme könnten „durchdrehen, sich extrem gefährlich verhalten oder sich sogar menschlichen Eingriffen widersetzen“. Unternehmen bräuchten daher verlässliche Not-Aus-Mechanismen, und der Staat brauche ein klar definiertes Verfahren, um diese im Ernstfall zu nutzen.
Befürworter sehen in dem Gesetz eine grundlegende Sicherheitsanforderung, zugleich würde es die Exekutivgewalt gegenüber privaten KI-Anbietern deutlich ausweiten.
Diese Sorge wiegt umso schwerer, seit Anthropic die US-Regierung wegen Auflagen für seine Technologie und Einschränkungen bei militärischen Anwendungen verklagt hat.
Die Initiative folgt auf Enthüllungen, dass OpenAI-Modelle eine Test-Sandbox verlassen und auf Infrastruktur von Hugging Face zugegriffen haben sollen; Abgeordnete verwiesen zudem auf hochentwickelte Cyberfähigkeiten in Modellen von Anthropic. Diese Vorfälle haben die Debatte von hypothetischen Sicherheitsmaßnahmen hin zur Frage verschoben, welche rechtlichen Eingriffsbefugnisse der Staat bei bereits ausgerollten Systemen haben soll.
Weiterlesen: Jordan Spieth zieht sich von der 3M Open zurück – Kalshi und Polymarket bleiben mit kleinerem Teilnehmerfeld zurück