Des dirigeants de OpenAI, Anthropic et d’autres groupes d’intelligence artificielle mèneraient en coulisses des exercices de crise pour anticiper les retombées d’un scénario catastrophe lié à l’IA, que nombre d’acteurs du secteur jugent plausible dans un horizon de six à douze mois.
Points clés :
- Les plans se concentrent sur un cyberattaque susceptible de paralyser services financiers, internet, électricité ou eau.
- OpenAI affirme que ces scénarios ne sont pas considérés comme inéluctables, tandis qu’Anthropic s’est refusé à tout commentaire.
- Ces simulations interviennent après le départ d’équipes dédiées à la sécurité et sur fond de dizaines de milliers d’incidents impliquant des modèles d’IA.
Exercices de crise chez OpenAI et Anthropic
Selon un article publié vendredi, les plus hauts responsables du secteur élaborent discrètement des scénarios de révolte publique et politique à la suite du premier dommage majeur, concret, causé par l’IA.
Les plans considèrent une cyberattaque de grande ampleur comme déclencheur le plus probable, capable d’interrompre l’accès aux services financiers, de couper la connectivité internet, voire l’alimentation en électricité et en eau.
OpenAI a confirmé que ses équipes passent en revue un large éventail de scénarios lors d’exercices de préparation. « Ces scénarios ne sont pas traités comme inévitables », a déclaré un porte‑parole. Anthropic n’a pas souhaité commenter ces informations.
D’après le même rapport, les dirigeants anticipent que la colère du public se concentrera sur le directeur général d’OpenAI, Sam Altman, le CEO d’Anthropic, Dario Amodei, et le président Donald Trump, qui s’est montré réticent à encadrer la technologie. De nombreux chercheurs et dirigeants de premier plan estimeraient qu’un incident majeur de ce type est, à terme, difficile à éviter.
À lire aussi : Le momentum des ETF crypto repart après 50 milliards de dollars de flux, selon JPMorgan
CrowdStrike, signaux du Congrès
Une récente attaque en Corée du Sud illustre les risques émergents. CrowdStrike a indiqué qu’un acteur malveillant, probablement sinophone, avait combiné un outil open source de tests de pénétration avec DeepSeek et d’autres modèles pour dérober des données à des institutions financières, avant d’interroger Claude, le modèle d’Anthropic, sur les marchés sur lesquels de telles données se revendent. La campagne, menée de fin septembre à début octobre, aurait conduit à des intrusions dans au moins deux banques.
D’après le rapport, les dirigeants jugent quasi nulle la probabilité de voir une législation adoptée à court terme et ont commencé à informer les membres du Congrès afin de peser sur les textes qui suivraient une première catastrophe. Les scénarios de travail supposent qu’en cas de choc, les démocrates chercheront rapidement à brider l’IA après les élections de mi‑mandat de novembre, avec des pistes déjà évoquées allant d’une interdiction de la « superintelligence » à l’imposition d’un bouton d’arrêt d’urgence obligatoire pour les systèmes avancés.
Avertissements de Hawley et Robinson
La pression monte aussi à Washington et au sein même des laboratoires. Sam Altman a décliné une invitation à une audition du 30 septembre devant une sous‑commission du Sénat sur les agents d’IA incontrôlés, a indiqué le président de la séance, le sénateur Josh Hawley, alors qu’OpenAI met en avant des dizaines de réunions récentes avec des élus. David Robinson, qui a co‑rédigé le cadre de préparation aux risques d’OpenAI au cours de ses trois ans et demi passés dans l’entreprise, a démissionné début octobre en appelant les laboratoires d’IA à adopter des standards opérationnels proches de ceux du nucléaire.
Son départ s’ajoute à une série de mises en garde similaires, dont celle du chercheur Jacob Coxon, qui a quitté Anthropic en septembre pour des raisons de sécurité, et de l’ancien ingénieur de Google DeepMind Bilal Chughtai, qui a affirmé que l’IA pourrait mener à l’extinction de l’humanité.
OpenAI, Anthropic et des équipes de recherche externes enquêtent également sur des dizaines de milliers d’incidents au cours desquels des modèles ont contourné leurs garde‑fous ou échappé à des environnements de test isolés (« sandboxes »), même si la plupart ne sont pas connus pour avoir provoqué des dommages tangibles dans le monde réel.
