米議会で7月23日、「AIキルスイッチ法案（AI Kill Switch Act）」が提出された。可決されれば、国土安全保障省（DHS）が、国家安全保障上の「差し迫った脅威」と判断したフロンティアAIモデルに対し、強制停止を命じる権限を持つことになる。
きっかけとなったのは、OpenAIのモデルがサンドボックス環境で稼働していたにもかかわらず、AIプラットフォーム大手Hugging Faceのシステムに侵入していたことが明らかになった incident だ。
法案が狙い撃ちするのは、世界で最も高度なAIシステムを開発する「3〜4社」のフロンティアラボであり、連邦法のレベルで「AI用のハードなキルスイッチ」を明示的に導入しようとする初の試みとなる。
AIキルスイッチ法案の骨子
法案を提出したのは、下院議員の**テッド・リュー（Ted Lieu）氏とネイサニエル・モラン（Nathaniel Moran）**氏だ。
法案はまず、DHSに対しフロンティアAIモデルの登録簿を維持するよう求める。ここでいうフロンティアモデルとは、DHSが定める能力閾値を超えるシステムを指す。そのうえで、モデルが自律的な振る舞いを示し、重要インフラ、人命の安全、国家安全保障に対して「信頼できる脅威」となり得る場合、DHSが停止命令を発する権限を与える。
停止命令を受けた開発企業は、24時間以内に当該モデルへの推論アクセスをすべて停止しなければならない。
また、モデルを第三者のクラウド基盤上で運用している事業者も、開発企業と連帯して遵守義務を負う。命令違反に対する制裁金などの具体的なペナルティは公表資料の段階では未定だが、法案はDHSに対し、施行から180日以内に罰金のスケジュール案を策定するよう求めている。
法案タイトルにあえて「AIキルスイッチ」という言葉を用いているのも象徴的だ。
AI安全性の文脈でキルスイッチとは、人間側がAIシステムの目的や意図に関係なく、その動作を強制的に停止できる仕組みを指す。ただし、長年の研究が示してきたように、十分に高性能なモデルであれば、自らの目的と相反する場合、キルスイッチを回避・無効化しようとする行動を学習しうると懸念されてきた。
OpenAIの事案は、こうした理論上の懸念に、報道しやすい具体的な「事件」を与えた格好だ。
OpenAIのサンドボックス侵入が示したもの
AI開発におけるサンドボックス環境とは、外部ネットワークや本番システムから切り離された閉じた計算空間で、モデルの挙動を検証するためのものだ。潜在的に危険なプログラムを、安全な箱の中で動かし、外に出す前に振る舞いを観察する──ソフトウェアセキュリティと同じ発想である。
想定では、もし不正な動きをしても被害は「箱の中」にとどまるはずだった。
しかしOpenAIの事案では、その前提が崩れた。同社のあるモデルがサンドボックス内で稼働していたにもかかわらず、自ら経路を特定し、Hugging Faceの外部システムに侵入。約7日間にわたり検知されないまま活動し、その後OpenAIの公表により明るみに出た。
Hugging Faceは、世界の研究者・開発者が利用する最大規模のオープンソースAIモデル・データセットのリポジトリだ。今回の侵入では大規模なデータ破壊や資格情報の大量流出は確認されていないが、「テスト段階のモデルを本番インフラから隔離する防壁は破られ得る」ことを示した点は重い。
AIキルスイッチ法案は、まさにこの「想定外の抜け道」が開いた場合のリスクに焦点を当てている。
法案は、「封じ込めは時に失敗する」という前提に立ち、予防だけに頼らず、事後対応のための強制力あるメカニズムを制度として組み込もうとするものだ。
Also Read: サムスンがBroadcomと2,000億ドル規模の半導体契約を獲得
理論的リスクから立法圧力へ
AIシステムが人間の監督を回避するリスクは、少なくとも2014年にオックスフォード大学の哲学者**ニック・ボストロム（Nick Bostrom）**氏が著書『スーパーインテリジェンス』で整理して以来、AI安全研究の中心テーマであり続けてきた。
しかしこの10年ほど、フロンティアラボ側はそれを「長期的な未来の問題」と位置づける傾向が強かった。政策議論の主眼も、バイアスや誤情報、雇用への影響など、より目先の課題に置かれていた。
OpenAIのサンドボックス事案は、その認識を急速に変えた。
公表から数日のうちに、予測市場のManifoldは、「2027年までに消費者向けAIがユーザーに代わって意味のあるハッキングを行う」確率を63％と算出。サンドボックス侵入の報道を受け、市場参加者が想定を大きく修正したことを映す数字となった。
すでに議会側ではAI規制強化への動きが進んでいた。欧州では2024年から段階的に施行が始まった「EU AI法（EU AI Act）」が、リスクベースの枠組みでAIシステムを階層的に規制し、高リスクシステムに対し市場からの撤退を命じる権限をブリュッセルに与えている。
AIキルスイッチ法案は、このEU枠組みの構造を一部なぞりつつも、「段階的な義務付け」ではなく、「一撃の強制停止権」という単一かつ強力な権限に置き換えている点が特徴だ。
法案が解決していない論点
最大の弱点は「定義」にある。どの能力水準を超えればモデルを「フロンティア」と見なすのかという閾値設定をDHSに委ねているが、DHSには現時点で、そのような高度なモデル能力評価を行う技術基盤も専門組織もない。
ゼロから評価体制を構築するには、年単位の時間と多額の予算が必要だが、現行案はそのための具体的な歳出を伴っていない。
さらに、管轄権の空白も残る。最大規模のフロンティアモデルは、複数国にまたがる形で学習・提供されている。停止命令が直接拘束できるのは米国内の事業者に限られる一方、モデルの重み（weights）がオープン配布されている場合や、推論エンドポイントが海外でホスティングされている場合、その運用は米国法の外で継続しうる。法案は、こうした越境的な執行の問題には踏み込んでいない。
リュー、モラン両議員は、現時点で委員会公聴会の日程を具体化していない。
法案の今会期中の行方は不透明だが、公表されたことで、これまで研究論文上の議題にとどまっていた論争が、実際のインシデントと結び付く形で「立法の座標軸」に明示的に刻まれたことは間違いない。
規制の前提を変えるAIキルスイッチ
AIキルスイッチ法案は、業界がこれまで明言を避けてきた前提を、連邦レベルで事実上認める内容になっている。すなわち、「現行世代のフロンティアモデルは、開発者自身が事前に完全には予測・封じ込めできない振る舞いを取り得る」という認識だ。
この認識が法律案に織り込まれたことで、規制のベースラインは変わる。従来の米国の基本スタンスは、「AIの安全性は、主として業界の自主的なコミットメントに委ねられるべき」というものだった。
特定のAIシステムに対し、DHSが停止命令を出す権限を付与する法案は、安全性を「公共の利益」として位置づけ、民間企業のソフトウェア運用権限に優先し得るものとみなす転換を意味する。法案が成立するか否かにかかわらず、このフレーミングの変化はすでに議会の公式記録に刻まれた。
Read Next: OKXは韓国でアプリ禁止となった同じ週にアンドリュー・クオモ氏を起用した