Le cofondateur de Microsoft, Bill Gates, estime que l’intelligence artificielle est déjà suffisamment puissante pour déclencher des événements susceptibles de provoquer la mort d’un milliard de personnes, et il appelle les responsables politiques à intervenir sans tarder.
Points clés :
- Bill Gates estime que des outils d’IA entre de mauvaises mains pourraient entraîner des événements faisant jusqu’à 1 milliard de morts.
- Il rejette l’idée d’une autorégulation des développeurs d’IA et soutient l’instauration de nouvelles lois contraignantes.
- Son alerte intervient alors que de nombreuses voix au sein du secteur de l’IA demandent de ralentir le développement.
L’alerte IA de Bill Gates
Bill Gates a tenu ces propos lors d’un entretien avec la présentatrice Kristen Welker dans l’émission « Meet the Press » de NBC, dont la diffusion est prévue dimanche. « L’IA est clairement assez puissante pour provoquer des événements qui… entraînent un milliard de morts », a-t-il déclaré. Il décrit l’usage des outils d’IA les plus avancés par des individus mal intentionnés comme « l’arme la plus puissante à laquelle le monde ait jamais été confronté ».
Gates s’est davantage concentré sur le risque d’un mésusage par des acteurs malveillants que sur le scénario d’une IA anéantissant l’humanité toute entière.
Interrogé par Kristen Welker sur la capacité des entreprises d’IA à se réglementer elles-mêmes, Gates a répondu sans ambages.
« Personne ne pense que l’autorégulation suffise », a-t-il affirmé, en ajoutant que les forces de l’ordre et les responsables politiques doivent définir les mécanismes de contrôle et de sécurité. Selon lui, ces garde-fous doivent avoir force obligatoire ; interrogé sur la nécessité d’une loi votée à Washington, il a répondu : « Absolument. »
À lire aussi : Les réserves d’Ethereum sur les plateformes tombent à un plus bas record, l’ETH évolue autour de 2 660 $
Les avertissements d’Anthropic et d’OpenAI
Ces déclarations interviennent alors que les inquiétudes sur la sécurité de l’IA gagnent même les ingénieurs qui la conçoivent. Début septembre, Jacob Coxon a quitté Anthropic en accusant la société, ainsi que OpenAI où il avait également travaillé, de jouer avec des vies humaines dans une course à l’IA superintelligente.
Un autre salarié d’Anthropic a estimé à plus de 10 % la probabilité que l’IA élimine l’ensemble de l’humanité au cours de la prochaine décennie. Le directeur général d’Anthropic, Dario Amodei, a ensuite appelé le secteur à ralentir le développement des modèles d’IA dits de « frontière ».
Le patron d’OpenAI, Sam Altman, ainsi que Elon Musk, ont rapidement soutenu cette demande de modération, tandis qu’un sondage YouGov/The Economist indiquait que 69 % des Américains considèrent l’IA comme une menace sérieuse.
L’Europe dispose déjà de règles contraignantes proches de ce que décrit Gates, alors que le débat reste ouvert aux États-Unis après que le président Donald Trump a écarté, plus tôt ce mois-ci, les appels à freiner le développement de l’IA. Depuis le 2 août, la Commission européenne a le pouvoir d’infliger des amendes pouvant aller jusqu’à 3 % du chiffre d’affaires mondial aux fournisseurs de modèles d’IA à usage général, même si aucune mesure coercitive n’a encore été annoncée contre un acteur.
Bill Gates s’est montré de plus en plus vocal sur les risques liés à l’IA ces derniers mois, tout en restant l’un de ses plus fervents optimistes. Dans une tribune publiée en août, il alertait sur la capacité d’acteurs malveillants à utiliser des IA de plus en plus puissantes pour mener des cyberattaques, des fraudes et des opérations de désinformation visant les hôpitaux, les institutions financières, les réseaux électriques ou encore les systèmes gouvernementaux. Il écrivait également que l’IA « sera soit le plus grand facteur d’égalisation jamais inventé, soit la pire source d’injustice. »
À lire ensuite : Polygon atteint 11 millions de paiements par seconde lors de tests destinés aux agents IA
