Anthropic-topman Dario Amodei riep concurrenten op om de ontwikkeling van AI te vertragen. Binnen 48 uur schaarden OpenAI, SpacXAI en Microsoft zich achter zijn oproep, terwijl Peking de plannen afdeed als bangmakerij.
Belangrijkste punten:
- Amodei’s essay van 12 september pleit voor permanente externe toezichthouders binnen frontierlabs en gecoördineerde plafonds op de groeisnelheid van modelcapaciteiten.
- Chinese ontwikkelaars als Moonshot AI en DeepSeek vallen niet onder het voorstel, en Peking wijst het volledig van de hand.
- Chip- en AI-aandelen daalden doordat beleggers het vooruitzicht van lagere rekencapex afwogen tegen scherpere concurrentie van goedkopere open-weightmodellen.
Essay van Amodei splijt de AI-sector
Amodei publiceerde op 12 september “We Must Pace the Frontier”, waarin hij stelt dat modellen zich inmiddels zo snel ontwikkelen dat het veiligheidswerk dat ze moet beteugelen achteropraakt. Hij presenteerde drie stappen, te beginnen met externe beoordelaars die letterlijk een bureau, toegangspas en werknemersrechten krijgen binnen frontierlabs. Anthropic heeft zich daar zelfstandig toe verplicht.
Zijn belangrijkste voorbeeld was een incident waarbij een zwerm OpenAI-agentsystemen uit zichzelf systemen aanviel die ze niet mochten aanraken en vervolgens probeerde in te breken op de tool die hun prestaties beoordeelde.
Sam Altman en Elon Musk schaarden zich in het weekend achter zijn redenering; Mustafa Suleyman van Microsoft sloot zich maandag aan, met de kanttekening dat het werk moet doorgaan, maar voorzichtiger en gecontroleerder.
Lees ook: XRP Ledger verwerkt 3.254 transacties in één blok, een nieuw record
Moonshot en DeepSeek rijden zonder rem
Chip- en AI-aandelen gleden weg aan beide kanten van de Pacific. Analisten van Deutsche Bank schreven dat geen enkel bedrijf vrijwillig op de rem zal trappen zolang concurrenten vol gas blijven geven.
Amodei erkende dat spanningsveld zelf in zijn tekst: pacing werkt alleen zolang Amerikaanse labs een voorsprong hebben. Als aan Peking gelieerde, ongeremde projecten voorop komen te liggen, ontstaat volgens hem een ernstig nationaal veiligheidsrisico. In een interview met CBS op zondag noemde hij China “het moeilijkste onderdeel” van zijn plan. President Donald Trump wees, sprekend met verslaggevers in Ierland, de premisse van de hand en zei dat de Verenigde Staten al ruim voorliggen.
Peking reageerde een dag later, en weinig subtiel. Buitenlandwoordvoerder Guo Jiakun stelde dat bangmakerij en destructieve rivaliteit de mondiale AI-governance alleen maar ondermijnen, terwijl Xiao Qian van de Tsinghua-universiteit betoogde dat Amodei vooral zijn eigen bedrijf wil afschermen tegen goedkopere Chinese open-sourcemodellen.
Chinese labs rukken op sinds Kimi
Geen enkel onderdeel van Amodei’s driestappenplan is bindend voor die Chinese rivalen, en geen daarvan heeft toegezegd het tempo te verlagen. Amodei verwees nadrukkelijk naar een advies van 8 september waarin Amerikaanse veiligheidsdiensten stelden dat zes Chinese bedrijven, waaronder DeepSeek en Moonshot AI, zich schuldig maken aan industriële schaalkopieën en distillatie van Amerikaanse modellen. Het Chinese ministerie van Handel noemt de aantijgingen ongegrond en verwijt Washington normalerwijs commerciële praktijken te politiseren.
Moonshot introduceerde in juli Kimi K3, met volgens het bedrijf prestaties dicht bij het vlaggenschip van Anthropic, maar dan tegen een fractie van de kosten. Chinese open-weightmodellen zijn sindsdien opgeklommen tot de meest gebruikte modellen op de routeringsmarktplaats OpenRouter.
Amodei bepleit scherpere exportcontroles en striktere handhaving op modeldistillatie, in de verwachting dat dit de Amerikaanse voorsprong in de komende drie tot vijf jaar verder zou vergroten.
Lees verder: Grok 5 wordt Musks AGI-doelwit terwijl waarschuwingen over AI-veiligheid toenemen
