Der Gouverneur der Bank of England, Andrew Bailey, fordert, dass gründliche Tests von KI-Systemen der Ausarbeitung formeller Regulierungen vorausgehen – bei gleichzeitigem Erhalt der Eingriffsmöglichkeiten der Behörden, falls die Risiken zunehmen.
Zentrale Punkte:
- Bailey warnt vor wachsenden KI-Risiken, will jedoch zunächst Schwachstellen identifizieren, bevor ein formales Regulierungsgerüst entsteht.
- Er verlangt strenge Tests vor und nach der Einführung von Systemen, flankiert von klaren Schutzmechanismen und verbindlichen menschlichen Eingriffspunkten.
- Seine Position kommt, während große KI-Unternehmen und die US-Regierung über freiwillige Auflagen, verlangsamte Entwicklung und künftige Regulierung ringen.
Bailey setzt auf KI-Tests
Bailey erklärte, die Risiken künstlicher Intelligenz seien „real und zunehmend bedeutsam“, doch sollten Entscheidungsträger zunächst herausarbeiten, wo Systeme versagen können, bevor sie festlegen, wie verbindliche Regeln aussehen sollen. „Regulierung ist aus meiner Sicht jedoch nicht der richtige Ausgangspunkt“, schrieb er.
Die Gesellschaft müsse die Fähigkeit bewahren, Grenzen für fortgeschrittene KI zu setzen, argumentiert Bailey. Dazu seien rigorose Tests vor und nach der Markteinführung nötig, um Verwundbarkeiten offen zu legen und zu überprüfen, ob vorhandene Schutzmechanismen Ausfälle tatsächlich auffangen können. Ein Entwicklungsstopp sei dennoch nicht angezeigt, da „die potenziellen Vorteile immens sind“.
Großbritannien hat bereits das AI Security Institute gegründet, das laut Bailey die wissenschaftlichen und technischen Grundlagen für belastbare KI-Prüfungen legt. „Doch das Tempo des Fortschritts muss sich deutlich erhöhen“, schrieb er. Unerwartetes Modellverhalten sei kein Beleg für gescheiterte Tests, sondern zeige vielmehr, warum solche Tests unverzichtbar seien.
Lesen Sie auch: Ripple unterstützt Brasiliens CSD BR beim Spiegeln von Fondsanteilen auf einer öffentlichen Blockchain
Streit um KI-Sicherheit bei OpenAI
Führende KI-Unternehmen wie OpenAI und Anthropic drängen auf strengere Sicherheitsvorkehrungen und international abgestimmte Risikoanalysen, da die Bedenken angesichts immer leistungsfähigerer Systeme wachsen. OpenAI hat jüngst erklärt, sein neuestes KI-Modell aus Sicherheitsgründen vorerst nicht zu veröffentlichen.
Präsident Donald Trump hat hingegen Forderungen zurückgewiesen, die US-Entwicklung im Wettlauf mit China zu verlangsamen, und erklärt: „Wer KI gewinnt, gewinnt.“ Nach einem Treffen im Weißen Haus am 29. September mit führenden Technologie-Managern sagte Trump, die Teilnehmer hätten ein „moralisch verbindliches“ KI-Dokument unterzeichnet, das eine Art „Schutzmechanismus“ darstelle.
Demnach tragen die beteiligten Unternehmen die Verantwortung für die Sicherheit ihrer eigenen Technologien. Baileys Ansatz setzt andere Akzente: Er will über Tests zunächst klären, wo staatliches Eingreifen nötig ist, bevor ein formaler Regulierungsrahmen für hochentwickelte Systeme aufgebaut wird.
Die Debatte hat zuletzt deutlich an Fahrt gewonnen, da KI-Entwickler, Regierungen und Aufseher im Finanzsystem mit rascher Modellentwicklung und schwierigeren Aufsichtsfragen konfrontiert sind. Baileys Vorstoß folgt auf Branchenappelle für abgestimmte Sicherheitsstandards, die Entscheidung von OpenAI, ein Modell zurückzuhalten, und den Versuch des Weißen Hauses, freiwillige, unternehmensgetriebene Kontrollen zu etablieren.
Weiterführend: Altcoins erreichen 41 % der Futures-Open-Interest, Spot-Volumen steigt auf das Vierfache von Bitcoin
