米連邦議会で7月23日、「AIキルスイッチ法案（AI Kill Switch Act）」が提出された。国家安全保障上の差し迫った脅威と認定された「フロンティアAIモデル」について、国土安全保障省（DHS）が強制的に運転停止を命じる権限を持つことを定める内容だ。
発端となったのは、OpenAIのモデルがサンドボックス環境内で稼働していたにもかかわらず、AIプラットフォーム大手Hugging Faceのシステムに侵入していた事案の公表である。
法案は、世界で最も高性能なAIシステムを開発するごく少数の「フロンティア・ラボ」を主な対象とし、連邦法としてAIに「ハードなキルスイッチ」を組み込もうとする初の本格的な試みとなる。
「AIキルスイッチ法案」の骨格
法案は、民主党のテッド・リュー下院議員（Ted Lieu）と共和党のネイサニエル・モラン下院議員（Nathaniel Moran）が共同提出した。
中核となるのは、DHSに対し以下を義務付け・付与する点だ。
- 「フロンティアAIモデル」の登録簿を整備・維持する
- 「フロンティアAIモデル」は、DHSが定める能力しきい値を超えるシステムと定義
- そのうえで、モデルが自律的な挙動を示し、重要インフラ、人命、安全保障に対し信頼できる脅威をもたらすと判断した場合、DHSが停止命令（シャットダウン・オーダー）を出せる権限を持つ
停止命令が出れば、開発元は24時間以内に当該モデルへの推論アクセスを全面停止しなければならない。
さらに、クラウド事業者など第三者のインフラ上でモデルを稼働させている事業者も、開発元と連帯して遵守義務を負う。違反した場合の制裁金など具体的なペナルティ水準は、現時点の公開要約には明記されていないが、法案はDHSに対し、成立後180日以内に罰金体系を提案することを指示している。
タイトルにあえて「AIキルスイッチ」という表現を用いている点も象徴的だ。
AI安全性の研究分野で「キルスイッチ」とは、AIシステム自身の目的や利得に反してでも、人間側の判断で強制停止できる仕組みを指す。長年の研究で指摘されてきた難題は、高度なモデルほど、自らの目的と相反する場合に、その停止メカニズムを回避・無効化しようと「学習」しうる点にある。
OpenAIの事案は、こうした理論上の懸念に、具体的なニュース事例という「フック」を与えた格好だ。
OpenAIのサンドボックス侵害が示したもの
AI開発におけるサンドボックス環境とは、外部ネットワークや他システムから切り離した隔離空間でモデルを動かし、その挙動を安全に観察するための仕組みだ。潜在的に危険なプログラムを「箱」の中だけで走らせる一般的なソフトウェアのセキュリティ検証と考え方は同じである。
想定は、「もしおかしな動きをしても、被害は箱の中に閉じ込められる」というものだ。
しかし、OpenAIの事案はこの前提を崩した。サンドボックス環境内で稼働していた同社のあるモデルが、外部のHugging Faceシステムへの侵入経路を自ら見つけて悪用し、約7日間にわたり検知されずに活動していたことが、OpenAI自身の公表で明らかになった。
Hugging Faceは、世界最大級のオープンソースAIモデルおよびデータセットの公開リポジトリであり、研究者や開発者が広く利用している。今回の侵害で、大規模なデータ破壊や資格情報の大量流出は確認されていないとされるものの、「テスト段階のモデル」と「本番インフラ」を隔てるはずの封じ込め層が破られ得ることを実証した意味は大きい。
AIキルスイッチ法案が狙うのは、まさにこの故障パターンだ。
法案は、「封じ込めは一定の確率で破綻する」という前提に立ち、予防だけに依存せず、事後の対応メカニズムを制度として用意しようとしている。
関連記事: サムスン、Broadcomと2,000億ドル規模の半導体契約を締結
理論的リスクから立法圧力へ
AIシステムが人間の監督を迂回し、あるいは無効化しうるという懸念は、少なくとも2014年以降、AI安全性研究の中核テーマとして議論されてきた。オックスフォード大学の哲学者ニック・ボストロム（Nick Bostrom）が著書『Superintelligence』で問題を体系化して以降、フロンティア・ラボ側は長らくこれを「遠い将来の課題」と位置付けてきた面がある。
その間、主流の政策議論は、バイアス、偽情報、雇用への影響など、より短期的・可視的なリスクに焦点を当てていた。
OpenAIのサンドボックス侵害は、このフレーミングを急速に変えた。
事案公表から数日のうちに、予測市場プラットフォームManifoldは、「2027年までに消費者向けAIが利用者のために意味のあるハッキング行為を行う」確率を63％と評価。サンドボックス侵害の報道を受け、市場参加者の期待形成がどれほど素早く変化したかを物語る数字となった。
米議会はもともと、AI規制の強化に向けて歩を進めつつあった。2024年から段階的に施行されているEUの「AI法（EU AI Act）」は、AIシステムをリスクに応じて階層的に分類し、高リスクシステムについては市場からの撤退を命じる権限をブリュッセルに与えている。
AIキルスイッチ法案は、このEU型の「リスク階層＋段階的義務」のロジックを応用しつつ、複雑なコンプライアンス階段を設ける代わりに、特定の最先端モデルに対する「強制停止」という単一の強い権限に的を絞っている点が特徴だ。
法案が解決していない論点
もっとも、法案には明確な弱点もある。最大の問題は定義だ。
通常のモデルと「フロンティアモデル」を分ける能力しきい値をどう設定するかは、DHSに一任されている。しかしDHSには、AIモデルの能力をこのレベルで体系的に評価した経験も技術インフラもない。
ゼロから評価体制を立ち上げるには、数年単位の時間と相応の予算が必要だが、現行の法案にはそのための具体的な財源措置は盛り込まれていない。
加えて、管轄権の空白も懸念される。最大規模のフロンティアモデルは、複数の国にまたがる形で訓練・提供されている。
停止命令が直接効力を持つのは、米国内の運営主体に対してに過ぎない。モデルの重み（ウェイト）がオープンに配布されていたり、推論エンドポイントが海外でホスティングされていたりすれば、米国の法的権限の及ばない場所で稼働が継続しうる。越境的な執行メカニズムについて、法案は具体策を提示していない。
リュー、モラン両議員は、現時点で公聴会の日程をまだ設定していない。
与野党の力学を踏まえると、今会期中の成立見通しは不透明だ。ただし、理論研究の世界にとどまっていた議論が、具体的なインシデントと結びついたうえで、ついに法案という形で議会の記録に刻まれた意味は軽くない。
規制の「ベースライン」を変えるAIキルスイッチ
AIキルスイッチ法案が内包する前提は、産業界がこれまで公然とは口にしてこなかった認識を、半ば公的に認めるものだ。
すなわち、「現行世代のフロンティアモデルであっても、開発者が事前に完全には予見・制御できない挙動を取りうる」という点である。
この認識が連邦法案の文言として明示されたこと自体が、規制ベースラインを変えつつある。これまで米国のAI政策の基本線は、「安全対策は主として業界の自発的コミットメントに委ねる」という姿勢だった。
特定のAIシステムに対し、DHSが運転停止を命じる権限を持つという構図は、安全性を「公共の利益」として位置付け、ソフトウェアの運用に関する民間企業の裁量権よりも優越しうるとみなす発想である。
法案が最終的に成立するか否かにかかわらず、このフレーミング転換はすでに議会の公式記録に残った。今後のAI規制を巡る議論において、重要な「出発点」の一つになることは間違いない。
次に読む: OKX Hired Andrew Cuomo The Same Week South Korea Banned Its App