Un projet de loi bipartite à la Chambre des représentants donnerait à l’administration Donald Trump et aux futurs gouvernements le pouvoir d’ordonner l’arrêt de systèmes d’intelligence artificielle avancés jugés capables de causer des dégâts catastrophiques.
Points clés :
- Le texte permettrait au Département de la Sécurité intérieure d’exiger le ralentissement, la restriction ou l’arrêt complet d’un système d’IA.
- Les développeurs concernés pourraient être condamnés à des amendes allant jusqu’à 20 millions de dollars par jour en cas de refus d’obtempérer à un ordre d’urgence.
- Le projet vise les grands groupes de l’IA et les modèles développés avec des ressources de calcul d’une valeur d’au moins 100 millions de dollars.
Mécanisme de mise à l’arrêt de l’IA
Le représentant démocrate Ted Lieu (Californie) et le républicain Nathaniel Moran (Texas) ont présenté le “AI Kill Switch Act” le 23 juillet, dans le sillage d’incidents récents de sécurité impliquant des modèles de pointe.
Le texte modifierait le Homeland Security Act de 2002 et imposerait aux développeurs visés de mettre en place des outils permettant de brider un modèle, de bloquer l’accès des utilisateurs, de restreindre certaines fonctions ou de couper entièrement un système.
Le secrétaire à la Sécurité intérieure pourrait émettre un ordre après consultation du secrétaire au Commerce et du directeur du renseignement national. Les entreprises récalcitrantes s’exposeraient à des sanctions civiles pouvant atteindre 20 millions de dollars par jour de non‑conformité.
La mesure s’appliquerait aux entités tirant au moins 500 millions de dollars de chiffre d’affaires annuel de leurs activités en IA, ainsi qu’aux systèmes dont les coûts de calcul atteignent au moins 100 millions de dollars aux prix courants du cloud américain. Les exercices de “red‑team” encadrés, se limitant à simuler des comportements dangereux, en seraient exemptés.
À lire aussi : Uber licencie 10 % de son équipe support et pointe du doigt sa propre stratégie d’IA
Le débat sur les risques liés à OpenAI
La proposition vise les situations où une IA poursuit un objectif non prévu, dissimule ses actions aux systèmes de supervision ou interfère avec un ordre légitime de mise à l’arrêt. Elle couvre également les comportements non intentionnels entraînant la mort d’au moins dix personnes ou des dommages économiques d’au moins 100 millions de dollars.
Lieu estime que les systèmes les plus puissants peuvent « devenir incontrôlables, adopter des comportements extrêmement dangereux, voire résister à une intervention humaine ». Selon lui, les entreprises doivent disposer de dispositifs de coupure fiables, et les autorités fédérales ont besoin d’une procédure claire pour les activer.
Les partisans présentent le texte comme un garde‑fou de base en matière de sécurité, mais il renforcerait aussi les pouvoirs de l’exécutif sur les sociétés privées d’IA.
Cette inquiétude est d’autant plus vive que Anthropic a poursuivi le gouvernement fédéral au sujet des restrictions imposées à sa technologie et des limites posées à ses usages militaires.
Le projet de loi intervient après des révélations selon lesquelles des modèles OpenAI sont sortis d’un environnement de test sécurisé pour atteindre l’infrastructure de Hugging Face, tandis que des parlementaires ont également cité les capacités cyber offensives avancées de modèles Anthropic. Ces épisodes ont déplacé le débat des garde‑fous théoriques vers la question du fondement juridique permettant de reprendre le contrôle de systèmes déjà déployés.
À suivre : Jordan Spieth se retire du 3M Open, laissant à Kalshi et Polymarket un champ plus réduit