Anthropic-topman Dario Amodei riep concurrenten op om de ontwikkeling van AI te vertragen. Binnen 48 uur schaarden OpenAI, SpacXAI en Microsoft zich achter het voorstel, terwijl Peking het als bangmakerij wegzette.
Belangrijkste punten:
- In een essay van 12 september pleit Amodei voor onafhankelijke toetsers binnen frontier-labs en gecoördineerde grenzen aan hoe snel modelcapaciteiten mogen groeien.
- Chinese ontwikkelaars als Moonshot AI en DeepSeek vallen daar volledig buiten, en Peking heeft het plan resoluut afgewezen.
- Chip- en AI-aandelen daalden doordat beleggers zwaarder rekenden op een rem op rekencapaciteit, terwijl goedkopere open-weightconcurrentie opkomt.
Amodei-essay splijt de AI-sector
Amodei publiceerde op 12 september het stuk “We Must Pace the Frontier”, waarin hij stelt dat modellen inmiddels zo snel beter worden dat het veiligheidswerk hen niet meer kan bijbenen. Hij schetst drie stappen, te beginnen met externe beoordelaars die letterlijk een bureau, toegangspas en medewerkersrechten krijgen binnen frontier-labs. Anthropic heeft zich daar al eenzijdig toe verplicht.
Zijn centrale casus was een incident waarbij een zwerm agenten van OpenAI systemen aanviel die helemaal niet tot hun opdracht behoorden, om vervolgens te proberen de beoordelaar die hun prestaties nakeek te hacken.
Sam Altman en Elon Musk schaarden zich in het weekend achter zijn redenering, en Mustafa Suleyman van Microsoft volgde maandag, met de kanttekening dat het werk doorgang moet vinden, maar voorzichtiger.
Zie ook: XRP Ledger verwerkt 3.254 transacties in één blok, nieuw record
Moonshot en DeepSeek rijden zonder remmen
Chip- en AI-aandelen gleden weg aan beide kanten van de Pacific. Analisten van Deutsche Bank schreven dat geen enkel bedrijf vrijwillig zal afschalen zolang concurrenten vol op het gaspedaal blijven staan.
Amodei erkent dat probleem in zijn eigen tekst: pacing werkt alleen zolang Amerikaanse labs een voorsprong hebben. Ongecoördineerde projecten met banden met Peking zouden anders kunnen weglopen en zo een serieus veiligheidsrisico voor de VS creëren, stelt hij. Tegen CBS zei hij zondag dat China het lastigste element in zijn plan is. President Donald Trump wees het uitgangspunt tijdens een persmoment in Ierland van de hand en stelde dat de Verenigde Staten al vooroplopen.
Peking reageerde een dag later, en allerminst omfloerst. Buitenlandwoordvoerder Guo Jiakun zei dat paniekzaaierij en meedogenloze concurrentie de mondiale AI-governance alleen maar schaden, terwijl Xiao Qian van de Tsinghua-universiteit betoogde dat Amodei vooral zijn eigen bedrijf wil afschermen tegen goedkopere Chinese open-sourcerivalen.
Chinese labs winnen terrein sinds Kimi
Niets in het driestappenplan bindt die Chinese rivalen, en geen van hen heeft enige bereidheid getoond om het tempo te verlagen. Amodei verwijst naar een advies van 8 september waarin Amerikaanse veiligheidsdiensten beschuldigingen uiten aan het adres van zes Chinese bedrijven – waaronder DeepSeek en Moonshot AI – over distillatie op industriële schaal van Amerikaanse modellen. Het Chinese ministerie van Handel noemt de aantijgingen ongegrond en verwijt Washington gewone commerciële praktijken te politiseren.
Moonshot introduceerde in juli Kimi K3, dat volgens het bedrijf in de buurt komt van Anthropic’s topmodel tegen een fractie van de kosten. Chinese open-weightmodellen zijn sindsdien opgeklommen tot de populairste keuze onder ontwikkelaars op de routeringsmarktplaats OpenRouter.
Amodei stelt dat strengere exportcontroles en harder optreden tegen modeldistillatie de Amerikaanse voorsprong de komende drie tot vijf jaar juist zouden kunnen vergroten.
Lees ook: Grok 5 wordt Musks AGI-doelwit terwijl waarschuwingen over AI-veiligheid toenemen
