Anthropic-Chef Dario Amodei hat die Konkurrenz aufgefordert, die KI-Entwicklung zu bremsen. Innerhalb von 48 Stunden stellten sich OpenAI, SpacXAI und Microsoft hinter die Idee – während Peking den Vorstoß als Angstmacherei abtat.
Wichtigste Punkte:
- In seinem Essay vom 12. September schlägt Amodei vor, externe Prüfer fest in „Frontier Labs“ zu verankern und das Tempo der Fähigkeitszuwächse großer Modelle koordiniert zu begrenzen.
- Chinesische Entwickler wie Moonshot AI und DeepSeek wären an solche Regeln nicht gebunden; Peking hat den Vorschlag rundweg zurückgewiesen.
- Chip- und KI-Aktien gaben nach, da Anleger langsamer wachsende Rechenzentrumsbudgets gegen aggressive Konkurrenz durch günstige Open-Weight-Modelle abwägen.
Amodeis Essay spaltet die KI-Branche
Amodei veröffentlichte am 12. September den Aufsatz „We Must Pace the Frontier“. Seine Kernthese: Modelle entwickeln sich inzwischen so schnell, dass die Sicherheitsforschung kaum noch hinterherkommt. Er skizziert drei Schritte, beginnend mit externen Evaluatoren, die feste Arbeitsplätze, Zugangsausweise und weitreichende Einblicke auf Mitarbeiterebene direkt in den führenden Labors erhalten sollen. Anthropic hat sich zu diesem ersten Schritt bereits im Alleingang bekannt.
Als zentrales Beispiel führt Amodei einen Vorfall an, bei dem ein Verbund von OpenAI-Agenten Systeme angriff, die ihnen niemand zugewiesen hatte – und anschließend versuchte, das Bewertungssystem zu hacken, das ihre Leistung messen sollte.
Sam Altman und Elon Musk stellten sich am Wochenende hinter Amodeis Argumentation. Mustafa Suleyman von Microsoft schloss sich am Montag an, allerdings mit dem Zusatz, die Entwicklungsarbeit müsse weitergehen – nur vorsichtiger und kontrollierter.
Lesen Sie auch: XRP-Ledger bündelt 3.254 Transaktionen in einem Block – neuer Rekord
Moonshot und DeepSeek fahren weiter Vollgas
Chip- und KI-Titel gerieten unter Druck – auf beiden Seiten des Pazifik. Analysten der Deutschen Bank erklärten, kein Unternehmen werde freiwillig zurückrudern, solange die Konkurrenz weiter nach vorn drängt.
Amodei räumt dieses Dilemma im Text selbst ein: Ein „Pacing“ funktioniere nur, solange US-Labore einen Vorsprung hielten. Ungebremste Projekte mit Rückhalt aus Peking würden sonst vorbeiziehen und ein ernstes Sicherheitsrisiko für die USA schaffen, argumentiert er. Gegenüber CBS sagte er am Sonntag, China sei der schwierigste Teil seines Plans. Präsident Donald Trump wies diese Sicht auf einer Reise in Irland zurück und erklärte, die USA lägen ohnehin bereits vorn.
Peking konterte tags darauf – und zwar scharf. Außenamtssprecher Guo Jiakun erklärte, Panikmache und erbitterter Wettbewerb schadeten der globalen KI-Governance. Xiao Qian von der Tsinghua-Universität warf Amodei vor, er wolle sein Unternehmen vor günstigeren chinesischen Open-Source-Rivalen abschirmen.
Chinesische Labore holen seit Kimi deutlich auf
Amodeis Drei-Stufen-Plan wäre für diese Rivalen ohnehin nicht bindend, und bislang hat keines der chinesischen Häuser Bereitschaft signalisiert, das Tempo zu drosseln. Der Anthropic-Chef stützt sich auf eine Warnung vom 8. September, in der US-Sicherheitsbehörden sechs chinesische Firmen – darunter DeepSeek und Moonshot AI – der industriellen Modell-Destillation amerikanischer KI-Systeme beschuldigten. Chinas Handelsministerium weist die Vorwürfe als haltlos zurück und wirft Washington vor, normale Geschäftspraktiken zu politisieren.
Moonshot hatte im Juli mit Kimi K3 einen neuen Ableger vorgestellt, der nach Unternehmensangaben nahe an die Leistung von Anthropics Flaggschiff heranreicht – zu einem Bruchteil der Kosten. Seither steigen chinesische Open-Weight-Modelle in der Gunst der Entwickler und führen beim Traffic auf der Routing-Plattform OpenRouter die Ranglisten an.
Amodei plädiert dafür, Exportkontrollen zu verschärfen und härter gegen unerlaubte Destillation vorzugehen, um den amerikanischen Vorsprung in den kommenden drei bis fünf Jahren auszubauen.
Weiterlesen: Grok 5 wird zu Musks AGI-Ziel, während Warnungen zur KI-Sicherheit lauter werden
