Le directeur général d’Anthropic, Dario Amodei, appelle à freiner le développement de l’intelligence artificielle au sein d’un dispositif de supervision en trois volets, une position saluée par certains rivaux mais qui ravive les interrogations sur l’application concrète de ces mesures, la concurrence et le coût économique d’un tel freinage.
Points clés :
- Amodei propose une surveillance indépendante des modèles, des règles communes au secteur et une régulation mondiale.
- Sam Altman et Elon Musk soutiennent l’idée d’un ralentissement, mais les critiques dénoncent l’absence de limites réellement opposables.
- La compétition technologique entre les États-Unis et la Chine, ainsi que la dépendance aux investissements en IA, rendent toute pause coordonnée très difficile.
Amodei veut freiner l’IA
Le 12 septembre, Amodei a appelé à ralentir le rythme du développement de l’IA, une position appuyée par le patron d’OpenAI, Sam Altman, et par Elon Musk. L’ancien chercheur d’Anthropic Jacob Coxon a confié au média britannique que les ingénieurs qui conçoivent les systèmes les plus avancés sont « vraiment effrayés » pour l’avenir de l’humanité.
Amodei préconise une surveillance indépendante des modèles pendant leur développement, des règles harmonisées au niveau de l’industrie et un cadre de régulation global. Le plan clarifie la question de la supervision, mais il ne dit pas qui serait habilité à imposer des limites ni comment empêcher des entreprises concurrentes, ou des États, de continuer à avancer.
La course internationale à l’IA est au cœur du blocage, les États-Unis visant à garder une longueur d’avance sur la Chine, tandis que les entreprises redoutent qu’un moratoire unilatéral ne les relègue derrière leurs concurrents. Le 13 septembre, le président Donald Trump a affirmé que les États-Unis dominaient la Chine en matière d’IA. « Celui qui gagne l’IA, gagne tout », a-t-il déclaré.
À lire aussi : Le Bitcoin reste proche de 77 000 dollars, le signal de marché haussier restant à confirmer
Les doutes de Zitron sur l’applicabilité
Pour Ed Zitron, directeur général d’EZ Primary Research, la proposition demeure trop floue pour être évaluée sérieusement. « Personne n’a donné de définition concrète de ce que signifie ‘ralentir’ », estime-t-il, ajoutant qu’un gel de l’entraînement des modèles risquerait surtout de permettre aux laboratoires chinois de combler l’écart et de copier des produits mis à l’arrêt.
Zitron avertit également qu’un frein au développement pourrait bouleverser les modèles de prix et fragiliser davantage une économie de l’IA déjà précaire. « Cela pourrait faire éclater la bulle », juge-t-il, en soulignant que le secteur ne dispose toujours pas d’une définition opérationnelle du ralentissement.
L’incertitude dépasse la seule question de la sécurité. Le dirigeant de Synthesia, Alexander Voica, souligne que les régulateurs ignorent encore comment ces systèmes de plus en plus puissants seront réellement utilisés, et prévient qu’une régulation précipitée « pourrait se retourner contre nous ». La fondatrice de Sustainable AI, Sasha Luccioni, se dit pour sa part plus inquiète des incitations économiques des entreprises que des scénarios de risque existentiel.
Au Royaume-Uni, l’IA est promue comme un levier pour la santé, le travail et la politique économique, ce qui fait d’un éventuel coup de frein non seulement un enjeu de sécurité, mais aussi une question de croissance. L’informaticienne Wendy Hall estime que les entreprises doivent être tenues responsables de la maîtrise de leurs systèmes, comparant la situation à celle d’un éleveur incapable de contenir un taureau destructeur.
Le scepticisme s’exprime aussi dans l’autre camp : le chercheur du Capital Research Centre, Parker Thayer, dénonce ce qu’il perçoit comme une tentative politique de « réglementer l’IA jusqu’à son extinction », une thèse que la BBC qualifie d’extrême et non étayée. Le débat s’étend désormais à la sécurité, à la rivalité entre puissances, à l’investissement et à la responsabilité des entreprises, sans mécanisme partagé pour décider jusqu’où et à quel rythme ralentir.
Le tournant est notable : lors du premier sommet mondial sur la sécurité de l’IA, organisé à Bletchley Park en novembre 2023, les discussions portaient surtout sur des risques extrêmes jugés lointains par nombre d’observateurs. Trois ans plus tard, ce sont les dirigeants de l’IA eux‑mêmes qui évoquent publiquement la nécessité d’un ralentissement, alors que les mêmes questions non résolues — emploi, régulation et contrôle effectif des systèmes — demeurent au centre des préoccupations.
À suivre : DeepSeek et Moonshot ont présenté des réponses de Claude comme les leurs, accuse Anthropic
