Anthropic-Chef Dario Amodei fordert ein langsameres Tempo bei der KI-Entwicklung – flankiert von einem dreistufigen Aufsichtsplan. Der Vorstoß findet Rückhalt bei Rivalen, wirft aber heikle Fragen zur Durchsetzbarkeit, zum Wettbewerbsumfeld und zu möglichen volkswirtschaftlichen Schäden auf.
Zentrale Punkte:
- Amodei schlägt unabhängige Modellaufsicht, Branchenregeln und globale Regulierung vor.
- Sam Altman und Elon Musk unterstützen die Forderung nach einer Verlangsamung, Kritiker bemängeln jedoch fehlende verbindliche Grenzen.
- Der Technologiewettlauf USA–China und die Abhängigkeit von KI-Investitionen erschweren jede koordinierte Pause.
Amodeis Ruf nach einer KI-Bremse
Amodei forderte am 12. September, das Entwicklungstempo bei KI „spürbar zu drosseln“ – ein Kurs, den auch OpenAI-Chef Sam Altman und Elon Musk öffentlich stützen. Der frühere Anthropic-Forscher Jacob Coxon sagte dem Sender, die Entwickler der Spitzensysteme seien „ehrlich gesagt verängstigt“ mit Blick auf die Zukunft der Menschheit.
Amodeis Konzept sieht eine unabhängige Überwachung von Modellen während der Entwicklung, branchenweite Verhaltensregeln und eine internationale Regulierung vor. Damit adressiert er die Aufsicht – offen bleibt allerdings, wer Limits tatsächlich durchsetzen soll und wie verhindert werden könnte, dass konkurrierende Unternehmen und Staaten einfach weitermachen.
Das globale Wettrennen ist der Kernkonflikt: Die USA fokussieren sich darauf, ihren Vorsprung gegenüber China zu halten, während Konzerne fürchten, ein einseitiger Stopp würde sie im Markt zurückwerfen. Am 13. September erklärte Präsident Donald Trump, die USA lägen bei KI vor China. „Wer KI gewinnt, gewinnt“, sagte er.
Auch interessant: Bitcoin hält sich nahe 77.000 Dollar, Bullenmarktsignal weiter unbestätigt
Zweifel an der Durchsetzbarkeit
Ed Zitron, CEO von EZ Primary Research, hält den Vorschlag für zu vage, um ihn seriös bewerten zu können. „Niemand hat bisher substanziell erklärt, was ‚Verlangsamung‘ konkret heißen soll“, sagte er. Ein Stopp beim Training großer Modelle könne chinesischen Labs Zeit verschaffen, aufzuholen und ins Stocken geratene Produkte zu kopieren.
Zitron warnt zudem, eine schwächere Entwicklungsdynamik könne die Preismodelle durcheinanderbringen und eine ohnehin fragile KI-Ökonomie beschädigen. „Das könnte die Blase zum Platzen bringen“, so seine Einschätzung. Die Branche verfüge bisher schlicht nicht über eine praktikable Definition dessen, was „Verlangsamung“ bedeutet.
Die Unsicherheit reicht weit über reine Sicherheitsfragen hinaus. Synthesia-Manager Alexander Voica betont, dass Aufseher noch gar nicht wissen, wie immer leistungsfähigere Systeme tatsächlich eingesetzt werden – und warnt, übereilte Regulierung könne „nach hinten losgehen“. Sustainable AI- Gründerin Sasha Luccioni wiederum sieht die Anreizstrukturen in Unternehmen als größeres Problem als abstrakte Existenzrisiken.
In Großbritannien wird KI als Wachstumsfaktor im Gesundheitswesen, in Unternehmen und in der Wirtschaftspolitik vorangetrieben. Eine generelle Verlangsamung wäre daher nicht nur eine Sicherheitsfrage, sondern auch ein Wohlstandsthema. Informatikerin Wendy Hall fordert, Firmen müssten stärker in die Pflicht genommen werden, ihre Systeme unter Kontrolle zu halten – sie vergleicht das Problem mit einem Bauern, der es versäumt, einen unberechenbaren Bullen einzuzäunen.
Skepsis gibt es zugleich aus der Gegenrichtung: Parker Thayer vom Capital Research Centre spricht von einem politischen Versuch, KI „kaputt zu regulieren“ – eine Einschätzung, die die BBC als extrem und unbelegt einordnet. Die Debatte spannt sich inzwischen von Sicherheit über geopolitischen Wettbewerb und Investitionen bis hin zu Unternehmensverantwortung – ohne dass es einen gemeinsamen Mechanismus gäbe, um festzulegen, wie stark die Entwicklung tatsächlich gebremst werden soll.
Der Stimmungswechsel ist bemerkenswert: Auf dem ersten globalen KI-Sicherheitsgipfel in Bletchley Park im November 2023 standen vor allem extreme, damals noch als fern geltende Risiken im Fokus. Drei Jahre später sprechen führende KI-Manager nun selbst öffentlich über ein mögliches Abbremsen – während die gleichen offenen Fragen zu Jobs, Regulierung und Kontrolle weiter im Raum stehen.
Lesen Sie als Nächstes: DeepSeek und Moonshot sollen Claude-Antworten als eigene ausgegeben haben, sagt Anthropic
