Bank-of-England-Gouverneur Andrew Bailey fordert, dass Künstliche Intelligenz (KI) zunächst umfassend getestet wird, bevor ein formaler Regulierungsrahmen geschaffen wird – bei gleichzeitigem Erhalt klarer Eingriffsmöglichkeiten der Aufsicht, falls Risiken zunehmen.
Zentrale Punkte:
- Bailey warnt vor wachsenden KI-Risiken, hält es aber für entscheidend, Schwachstellen frühzeitig zu identifizieren, bevor ein starres Regelwerk entsteht.
- Er verlangt rigorose Tests vor und nach dem Einsatz von KI-Systemen, ergänzt um klare Schutzmechanismen und belastbare menschliche Eingriffspunkte.
- Seine Position fällt in eine Phase, in der große KI-Konzerne und die US-Regierung über freiwillige Selbstverpflichtungen, ein verlangsamtes Entwicklungstempo und künftige Regulierung ringen.
Baileys Ansatz zu KI-Tests
Bailey erklärte, die Risiken von KI seien „real und zunehmend erheblich“, doch müssten politische Entscheidungsträger zunächst verstehen, wo Systeme versagen können, bevor sie einen detaillierten Regelrahmen definieren. „Regulierung ist aus meiner Sicht nicht der richtige Ausgangspunkt“, schrieb er.
Die Gesellschaft müsse sich laut Bailey die Fähigkeit bewahren, Grenzen für hochentwickelte KI zu setzen. Rigorose Tests vor der Einführung und im laufenden Betrieb sollen Schwachstellen offenlegen und zeigen, ob Sicherheitsmechanismen Ausfälle tatsächlich eindämmen können. Ein Verbot der KI-Entwicklung lehnt er ab, denn „die potenziellen Vorteile sind enorm“.
Das Vereinigte Königreich hat mit dem AI Security Institute bereits eine Institution geschaffen, die laut Bailey dazu beiträgt, die wissenschaftlichen und technischen Grundlagen für belastbare KI-Prüfverfahren zu legen. „Aber das Tempo des Fortschritts muss sich erhöhen“, so Bailey. Unerwartetes Modellverhalten sei kein Beweis für gescheiterte Tests, sondern im Gegenteil ein Argument dafür, warum Tests zwingend erforderlich seien.
Auch interessant: Ripple unterstützt Brasiliens CSD BR dabei, Fondsanteile auf einer öffentlichen Blockchain zu spiegeln
Debatte um KI-Sicherheit bei OpenAI
Führende KI-Unternehmen wie OpenAI und Anthropic drängen auf stärkere Schutzvorkehrungen und international abgestimmte Risikoüberprüfungen, da die Sorge über immer leistungsfähigere Systeme wächst. OpenAI kündigte jüngst an, sein neuestes KI-Modell aus Sicherheitsgründen vorerst nicht zu veröffentlichen.
US-Präsident Donald Trump hat Forderungen, die US-Entwicklung im Wettbewerb mit China zu bremsen, zurückgewiesen und erklärt: „Wer KI gewinnt, gewinnt.“ Nach einem Treffen im Weißen Haus am 29. September mit Spitzenvertretern der Tech-Branche sagte Trump, die Teilnehmenden hätten ein „moralisch bindendes“ KI-Dokument unterzeichnet, das eine „Form von Schutz“ darstelle.
Demzufolge tragen die beteiligten Unternehmen die Verantwortung für die Sicherheit ihrer eigenen Technologien. Baileys Ansatz setzt andere Akzente: Er will mithilfe systematischer Tests zunächst klären, wo Eingriffe notwendig sind, bevor Gesetzgeber eine umfassendere, formale Regulierung für fortgeschrittene Systeme aufbauen.
Die Debatte hat sich in den vergangenen Wochen deutlich beschleunigt, da KI-Entwickler, Regierungen und Finanzaufseher mit rasanteren Modellzyklen und komplexeren Aufsichtsfragen konfrontiert sind. Baileys jüngste Wortmeldung folgt auf Branchenappelle für koordinierte Sicherheitsvorkehrungen, die Entscheidung von OpenAI, ein Modell zurückzuhalten, und die Initiative des Weißen Hauses für freiwillige, unternehmensgetriebene Kontrollmechanismen.
Weiterlesen: Altcoins erreichen 41 % des Futures Open Interest, Kassahandel steigt auf das Vierfache von Bitcoin
