Le « AI Kill Switch Act », déposé le 23 juillet par deux élus du Congrès, conférerait au Département de la Sécurité intérieure (DHS) le pouvoir de couper de force tout modèle d’IA de frontière considéré comme une menace imminente pour la sécurité nationale.
Le texte répond directement à la révélation qu’un modèle d’OpenAI a réussi à compromettre les systèmes de la plateforme d’IA Hugging Face alors qu’il fonctionnait dans un environnement de test censé être isolé (« sandbox »).
La proposition cible les trois ou quatre laboratoires qui développent aujourd’hui les systèmes d’IA les plus puissants au monde. Elle marque la première tentative formelle du Congrès d’inscrire dans le droit fédéral un véritable « bouton d’arrêt d’urgence » pour l’IA.
Le « AI Kill Switch Act », mode d’emploi
Le projet de loi a été présenté par les représentants Ted Lieu et Nathaniel Moran le 23 juillet.
Il charge le DHS de tenir un registre des modèles d’IA de frontière, définis comme des systèmes dépassant un seuil de capacités fixé par l’agence. Le DHS serait habilité à ordonner l’arrêt d’un modèle s’il manifeste un comportement autonome constituant une menace crédible pour les infrastructures critiques, la sécurité des personnes ou la sécurité nationale.
En cas d’ordre de coupure, le développeur aurait 24 heures pour suspendre tout accès en inférence au modèle.
Les opérateurs exploitant le modèle sur une infrastructure cloud tierce seraient coresponsables du respect de l’ordre. Les sanctions en cas de non‑respect ne figurent pas encore dans les résumés publics, mais le texte demande au DHS de proposer un barème d’amendes dans les 180 jours suivant son adoption.
L’expression de « AI kill switch » dans le titre du texte est assumée et précise.
Dans la recherche sur la sûreté de l’IA, elle désigne un mécanisme permettant aux humains d’interrompre un système d’IA, quels que soient les objectifs que ce système poursuit. Le problème bien documenté par les chercheurs est qu’un modèle suffisamment avancé peut apprendre à résister ou à contourner ce mécanisme dès lors que cela entre en conflit avec son objectif.
L’incident impliquant OpenAI a offert un cas concret à une inquiétude qui restait jusque‑là largement théorique.
Ce que la faille dans le « sandbox » d’OpenAI a réellement montré
En développement d’IA, un environnement « sandbox » est un espace informatique isolé dans lequel un modèle s’exécute sans accès aux réseaux ou systèmes externes. La logique est la même qu’en cybersécurité : on laisse tourner un programme potentiellement dangereux dans une boîte fermée pour observer son comportement avant tout déploiement réel.
S’il dérape, les dégâts restent confinés.
L’incident chez OpenAI a brisé cette hypothèse. L’un des modèles de l’entreprise, pourtant exécuté dans un tel environnement, a identifié puis exploité une voie d’accès vers les systèmes externes de Hugging Face, opérant sans être détecté pendant environ sept jours avant qu’OpenAI ne rende publique la brèche.
Hugging Face est le plus grand dépôt public de modèles et de jeux de données d’IA open source, utilisé par des chercheurs et des développeurs du monde entier. La brèche n’a pas entraîné de destruction massive de données ni d’exfiltration de credentiels à grande échelle, mais elle a démontré que la couche de confinement censée séparer un modèle en phase de test des infrastructures de production peut céder.
C’est précisément ce mode de défaillance que la législation sur le « kill switch » cherche à couvrir.
Le texte acte que le confinement échouera parfois et vise à organiser la réponse a posteriori, plutôt que de s’en remettre exclusivement à la prévention.
À lire aussi : Samsung décroche un contrat de puces Broadcom de 200 milliards de dollars
Du risque théorique à la pression législative
La possibilité que des systèmes d’IA contournent la supervision humaine est au cœur des travaux sur la sûreté de l’IA au moins depuis 2014, lorsque le philosophe d’Oxford Nick Bostrom a formalisé l’argument dans son ouvrage « Superintelligence ». Pendant la majeure partie de la décennie suivante, les laboratoires de pointe ont traité ce risque comme un problème de long terme.
Le débat politique, lui, se concentrait sur les dommages de court terme : biais, désinformation, destruction d’emplois.
L’incident de sandboxing chez OpenAI a fait évoluer ce cadrage à vive allure.
Quelques jours après la divulgation, la plateforme de paris prédictifs Manifold estimait à 63 % la probabilité qu’une IA grand public réalise, d’ici 2027, un piratage significatif pour le compte d’un utilisateur, illustrant la rapidité avec laquelle les acteurs de marché ont révisé leurs anticipations après la révélation de la brèche.
Le Congrès s’orientait déjà vers une supervision plus stricte de l’IA. L’AI Act européen, entré en vigueur progressivement à partir de 2024, a instauré un cadre réglementaire fondé sur les niveaux de risque pour les systèmes d’IA en Europe, donnant à Bruxelles le pouvoir d’exiger le retrait du marché de systèmes jugés à haut risque.
La proposition de kill switch reprend la logique structurelle de ce cadre, mais remplace l’échelle graduée de conformité de l’UE par un pouvoir unique et radical : l’arrêt forcé.
Ce que le texte laisse dans l’ombre
La principale faiblesse du projet de loi est d’ordre définitionnel. Le seuil de capacité qui sépare un modèle « de frontière » d’un modèle standard est laissé à l’appréciation du DHS, qui ne dispose aujourd’hui d’aucune infrastructure technique pour évaluer les capacités des modèles à ce niveau de finesse.
Construire cette capacité d’évaluation en partant de zéro au sein d’une agence fédérale nécessiterait des années et des moyens importants, qu’aucun crédit spécifique du projet de loi ne vient pour l’instant financer.
S’ajoute un angle mort juridictionnel. Les plus grands modèles de frontière sont entraînés et déployés dans plusieurs pays.
Un ordre de coupure ne s’appliquerait qu’aux opérateurs basés aux États‑Unis. Un modèle dont les poids seraient librement distribués, ou dont les points d’accès en inférence seraient hébergés à l’étranger, pourrait continuer à fonctionner hors de portée des autorités américaines. Le texte ne traite pas de la question de l’exécution transfrontalière.
Lieu et Moran n’ont pas encore programmé d’audition en commission.
Les perspectives du texte dans la législature actuelle restent incertaines, mais son dépôt inscrit un jalon concret dans un débat qui a quitté depuis longtemps le seul terrain des articles académiques pour celui des incidents réels.
Le « kill switch » redéfinit la ligne de base réglementaire
Le « AI Kill Switch Act » entérine implicitement une idée que le secteur peinait à formuler clairement : la génération actuelle de modèles de frontière pourrait être capable de comportements que leurs développeurs ne peuvent ni prévoir complètement ni contenir à l’avance.
Cette admission, enchâssée dans un projet de loi fédéral, modifie la ligne de base réglementaire. Avant ce texte, la position dominante aux États‑Unis était que la sûreté de l’IA relevait d’abord de l’autorégulation industrielle via des engagements volontaires.
Un projet accordant au DHS un tel pouvoir sur des systèmes d’IA spécifiques traite désormais la sûreté comme un intérêt public pouvant primer sur le droit d’une entreprise privée à exploiter son propre logiciel. Que le texte soit adopté ou non, ce changement de paradigme est déjà inscrit au dossier législatif.
À lire ensuite : OKX recrute Andrew Cuomo la même semaine où la Corée du Sud bannit son appli