Anthropic-topman Dario Amodei roept op tot een rem op de ontwikkeling van kunstmatige intelligentie via een drievoudig toezichtplan. Zijn oproep krijgt steun van rivalen, maar roept scherpe vragen op over handhaving, concurrentiedruk en economische kosten.
Belangrijkste punten:
- Amodei stelt onafhankelijk modeltoezicht, sectorspecifieke afspraken en mondiale regulering voor.
- Sam Altman en Elon Musk steunen de roep om vertraging, maar critici zeggen dat het voorstel geen afdwingbare grenzen bevat.
- De wedloop tussen de VS en China en de afhankelijkheid van AI-investeringen bemoeilijken elke gecoördineerde pauze.
Amodei wil AI-tempo omlaag
Amodei pleitte op 12 september voor een lager tempo in de ontwikkeling van AI-systemen, een standpunt dat wordt ondersteund door OpenAI-CEO Sam Altman en Elon Musk. Voormalig Anthropic-onderzoeker Jacob Coxon zei tegen de omroep dat de mensen die aan deze geavanceerde systemen bouwen “oprecht bang” zijn voor de toekomst van de mensheid.
Amodei wil dat AI-modellen tijdens de ontwikkelfase onafhankelijk worden gemonitord, dat er sectorbrede normen komen en dat toezichthouders wereldwijd in de pas gaan lopen. Zijn plan verstevigt het toezicht, maar laat open wie uiteindelijk de grenzen oplegt en hoe concurrenten en landen kunnen worden tegengehouden om toch door te gaan met ontwikkelen.
De mondiale wedloop vormt de kern van het probleem. De Verenigde Staten zijn gefixeerd op hun voorsprong op China, terwijl bedrijven vrezen dat een eenzijdige pauze hen marktaandeel kost. Op 13 september verklaarde president Donald Trump dat de VS China op AI-gebied voorbijstreeft. “Wie AI wint, wint,” zei hij.
Ook interessant: Bitcoin blijft rond $77.000 hangen terwijl signaal voor bullmarkt uitblijft
Twijfels over afdwingbaarheid
Ed Zitron, CEO van onderzoeksbureau EZ Primary Research, vindt het voorstel nog te vaag om er harde conclusies aan te verbinden. “Niemand heeft uitgelegd wat ‘vertragen’ concreet betekent,” zegt hij. Volgens hem kan een bevriezing van modeltraining Chinese labs juist in staat stellen om bij te trekken en producten te kopiëren die elders noodgedwongen stilliggen.
Zitron waarschuwt ook dat een lager ontwikkeltempo de prijsstelling kan verstoren en de toch al broze AI-economie onder druk kan zetten. “Dit kan de bubbel doen barsten,” zegt hij. Volgens hem ontbreekt het de sector nog steeds aan een werkbare definitie van wat een vertraging precies inhoudt.
De onzekerheid reikt verder dan veiligheidsbeleid. Alexander Voica van Synthesia stelt dat toezichthouders nog altijd niet goed begrijpen hoe steeds krachtigere systemen in de praktijk zullen worden ingezet. Te snelle wetgeving “kan averechts uitpakken,” waarschuwt hij. Sustainable AI-oprichter Sasha Luccioni zegt zich bovendien meer zorgen te maken over kortetermijnprikkels bij bedrijven dan over abstracte existentiële risico’s.
In het Verenigd Koninkrijk wordt AI nadrukkelijk ingezet in de zorg, op de werkvloer en in economisch beleid. Een brede vertraging raakt daar direct aan de groeistrategie, en is daardoor niet alleen een veiligheids-, maar ook een welvaartsdossier. Informatica-hoogleraar Wendy Hall vindt dat bedrijven zelf verantwoordelijk zijn om systemen in toom te houden, en vergelijkt het met een boer die een gevaarlijke stier laat ontsnappen.
Aan de andere kant van het spectrum klinkt scepsis over de roep om meer regels. Onderzoeker Parker Thayer van het Capital Research Centre noemt het een politieke poging om “AI kapot te reguleren”, een kwalificatie die de BBC omschrijft als extreem en onbewezen. Het debat bestrijkt inmiddels veiligheid, geopolitieke concurrentie, kapitaalstromen en ondernemingsbestuur, maar een gedeeld mechanisme om te bepalen hoeveel langzamer de ontwikkeling moet, ontbreekt.
De omslag is opvallend: tijdens de eerste mondiale AI-veiligheidstop in Bletchley Park in november 2023 lag de nadruk vooral op extreme risico’s die destijds voor velen nog ver weg leken. Drie jaar later praten toonaangevende AI-bestuurders zélf publiekelijk over vertraging, terwijl dezelfde onopgeloste vragen over werkgelegenheid, regelgeving en controle nog altijd boven de markt hangen.
Lees verder: DeepSeek en Moonshot gebruikten volgens Anthropic Claude-antwoorden als eigen werk
