L’ancien chercheur en sécurité chez Google DeepMind, Bilal Chughtai, avertit que l’intelligence artificielle pourrait aller jusqu’à anéantir l’humanité, tandis qu’un autre ex-membre du laboratoire estime qu’un niveau de dommages majeurs pourrait survenir d’ici cinq ans.
Points clés :
- Bilal Chughtai a quitté DeepMind en juillet et juge qu’une superintelligence pourrait apparaître dans les prochaines années.
- Il estime que la recherche en alignement est largement à la traîne par rapport aux capacités des modèles et plaide pour un ralentissement coordonné, plutôt qu’un arrêt du développement.
- L’ancien chercheur de DeepMind Josh Engels évoque un risque de dégâts immenses d’ici cinq ans, alors que des figures d’Anthropic et OpenAI soutiennent l’idée de freiner le rythme.
L’alerte de Bilal Chughtai
Chughtai, ancien ingénieur de recherche spécialisé dans la sûreté et l’alignement de l’intelligence artificielle générale, a quitté DeepMind en juillet et publié son avertissement cette semaine.
Selon lui, les laboratoires d’IA pourraient concevoir des systèmes superintelligents dans quelques années à peine, capables de surpasser les humains dans quasiment tous les domaines, tout en restant très difficiles à aligner sur les objectifs humains.
Pour Chughtai, le problème central est l’alignement. Il écrit : « Je crois sincèrement que l’IA a le potentiel de tous nous tuer et que nous pourrions manquer de temps pour éviter ce scénario. »
Il souligne que les méthodes actuelles visant à entraîner des systèmes avancés à poursuivre de façon fiable des objectifs humains restent « extrêmement rudimentaires », alors même que les capacités de pointe progressent bien plus vite que la compréhension scientifique de l’alignement. Il ne réclame pas un moratoire total sur l’IA, mais veut que les entreprises coordonnent leurs efforts, ralentissent la course concurrentielle et accroissent la transparence sur la conception et les tests des systèmes les plus avancés.
À lire aussi : Le CLARITY Act face au cap des 60 voix au Sénat, sur fond de fronde grandissante
La poussée de la sécurité chez Anthropic
L’avertissement de Chughtai fait écho à la démission de Jacob Coxon début septembre, après trois ans passés entre Anthropic et OpenAI. Evan Hubinger, responsable scientifique de l’alignement chez Anthropic, a ensuite déclaré qu’il estimait à plus de 10 % la probabilité que l’IA puisse éradiquer l’humanité d’ici la prochaine décennie.
Josh Engels, qui a lui aussi travaillé sur l’équipe de sûreté de DeepMind, a indiqué le 12 septembre qu’il rejoignait l’ONG d’évaluation METR après avoir décliné des offres d’Anthropic et d’OpenAI, invoquant une « probabilité terrifiante » de dommages immenses causés par l’IA dans les cinq ans.
Le directeur général d’Anthropic, Dario Amodei, appelle de son côté à modérer la course aux capacités, une position également soutenue par le patron d’OpenAI, Sam Altman, alors que le débat s’étend aux principaux laboratoires. Ce consensus est d’autant plus notable que les signaux d’alarme émanent désormais à la fois des chercheurs en sécurité qui quittent ces structures et des dirigeants à la tête des grands acteurs de l’IA.
Cette vague d’alertes intervient après un changement de perspective rapide depuis le début de 2022, quand Chughtai a commencé à travailler sur l’IA et décrivait des systèmes très en deçà des modèles de pointe actuels. En quatre ans, le débat est passé de considérations théoriques de long terme à des inquiétudes concrètes sur l’autonomie des systèmes, l’alignement avec les valeurs humaines et la capacité de la recherche en sécurité à suivre la progression fulgurante des performances.
À suivre : L’API de Bitget couvre désormais l’or, le forex, les indices et le pétrole brut
