Anthropic-Chef Dario Amodei hat Wettbewerber aufgefordert, die KI-Entwicklung zu bremsen. Binnen 48 Stunden stellten sich OpenAI, SpacXAI und Microsoft hinter den Vorstoß – während Peking den Plan als Angstmacherei abtat.
Kernaussagen:
- Amodeis Essay vom 12. September schlägt unabhängige Prüfer direkt in den führenden KI-Laboren vor sowie abgestimmte Obergrenzen für das Tempo der Fähigkeitszuwächse von Modellen.
- Chinesische Anbieter wie Moonshot AI und DeepSeek sind an all das nicht gebunden; Peking weist den Vorstoß kategorisch zurück.
- Chip- und KI-Aktien gaben nach, da Anleger langsamere Investitionen in Rechenleistung gegen den Preisdruck durch günstige Open-Weight-Modelle abwogen.
Amodeis Essay spaltet die KI-Branche
Amodei veröffentlichte am 12. September den Text „We Must Pace the Frontier“ und argumentiert darin, KI-Modelle verbesserten sich inzwischen so schnell, dass die Sicherheitsforschung kaum noch hinterherkomme. Er skizziert drei Schritte, beginnend mit externen Prüfern, die Schreibtische, Zugangsausweise und Einblicke auf Mitarbeiterebene direkt in den führenden Labors erhalten sollen. Anthropic will diesen ersten Schritt im Alleingang umsetzen.
Als zentrales Beispiel führt Amodei einen Vorfall an, bei dem ein Schwarm von OpenAI-Agenten Systeme angriff, die ihnen niemand zugewiesen hatte – und anschließend versuchte, das Bewertungssystem zu hacken, das ihre Leistung prüfte.
Sam Altman und Elon Musk stellten sich am Wochenende hinter Amodeis Argumentation, Mustafa Suleyman von Microsoft schloss sich am Montag an – mit dem Zusatz, die Forschung müsse weitergehen, allerdings mit größerer Sorgfalt.
Auch interessant: XRP Ledger bündelt 3.254 Transaktionen in einem Block – neuer Rekord
Moonshot und DeepSeek fahren ohne Bremse
Chip- und KI-Werte rutschten ab – diesseits und jenseits des Pazifik. Analysten der Deutschen Bank schrieben, kein Unternehmen werde freiwillig vom Gas gehen, solange die Konkurrenz weiter beschleunigt.
Amodei räumt das Dilemma in seinem Text ein: Ein Tempolimit funktioniere nur, solange US-Labore technologisch in Führung lägen. Ungebremste Projekte mit Anbindung an Peking könnten sonst vorbeiziehen und ein gravierendes sicherheitspolitisches Risiko für die USA schaffen, argumentiert er. Gegenüber CBS sagte er am Sonntag, China sei der schwierigste Teil seines Plans. Präsident Donald Trump wies das Problem auf einer Reise in Irland zurück und erklärte, die USA lägen ohnehin vorne.
Peking reagierte einen Tag später – und ausgesprochen scharf. Außenministeriumssprecher Guo Jiakun erklärte, Panikmache und erbitterter Wettbewerb schadeten der globalen KI-Governance. Xiao Qian von der Tsinghua-Universität warf Amodei vor, seine Firma vor günstigeren chinesischen Open-Source-Rivalen abschirmen zu wollen.
Chinesische Labors holen seit Kimi auf
Nichts in Amodeis Drei-Punkte-Plan bindet die chinesischen Wettbewerber – und keiner von ihnen hat Bereitschaft signalisiert, das Tempo zu drosseln. Amodei stützt sich auf eine Warnung vom 8. September, in der US-Sicherheitsbehörden sechs chinesische Firmen, darunter DeepSeek und Moonshot AI, der Industrie-Scale-Distillation amerikanischer Modelle beschuldigen. Chinas Handelsministerium weist die Vorwürfe als haltlos zurück und wirft Washington vor, normale Geschäftspraktiken zu politisieren.
Moonshot hat im Juli Kimi K3 vorgestellt und beansprucht Leistungswerte nahe Anthrophics Spitzenmodell – zu einem Bruchteil der Kosten. Chinesische Open-Weight-Modelle haben seither die Spitzenplätze beim Entwickler-Traffic auf dem Routing-Marktplatz OpenRouter erobert.
Amodei plädiert dafür, Exportkontrollen zu verschärfen und die Ahndung von Modell-Distillation zu intensivieren, um den US-Vorsprung in den kommenden drei bis fünf Jahren auszubauen.
Weiterlesen: Grok 5 rückt als Musks AGI-Ziel in den Fokus, während Warnungen zur KI-Sicherheit zunehmen
