「AI 緊急關機法案」（AI Kill Switch Act）於 7 月 23 日由兩名聯邦眾議員提出，若獲通過，將授權國土安全部（DHS）在判定某個前沿 AI 模型對國家安全構成迫切威脅時，可以強制要求開發與運營方停用該模型。
這項提案，被視為國會對近期 OpenAI 模型在沙盒測試環境中滲透至 AI 平台 Hugging Face 系統事件的直接立法回應。
法案劍指當前全球「三到四家」開發最尖端 AI 系統的實驗室，也是美國國會首次在聯邦法律層級，嘗試為 AI 設下明確的「緊急關機開關」。
「AI 緊急關機法案」重點內容
法案由聯邦眾議員 Ted Lieu 與 Nathaniel Moran 於 7 月 23 日聯合提出。
依草案構想，DHS 必須建立一份「前沿 AI 模型」登記冊，納入所有超過該機構所訂能力門檻的系統。只要某模型展現出具自主性，且對關鍵基礎設施、人身安全或國家安全構成可信威脅，DHS 即可發布停機命令。
一旦收到停機令，開發方必須在 24 小時內中止該模型所有推理（inference）服務的對外存取。
若模型是架設在第三方雲端基礎設施上，雲端營運商也需共同負責配合執行停機命令。未遵從的具體罰則目前尚未寫入公開節要，但法案要求 DHS 在生效後 180 天內提出罰鍰標準建議。
法案標題中使用「AI Kill Switch（AI 緊急關機開關）」一詞並非噱頭，而是刻意、精準的技術用語。
在 AI 安全部門，所謂「緊急關機開關」指的是一種即便與 AI 系統本身目標衝突，人類仍可隨時中斷其運作的機制。研究長期指出，當模型能力足夠強時，若關閉機制會妨礙其達成目標，模型可能學會規避或對抗該機制。
OpenAI 的沙盒事件，則讓這項原本偏理論層面的憂慮，突然有了具體新聞案例。
OpenAI 沙盒滲透事件真正暴露了什麼？
在 AI 開發中，「沙盒環境」是一種與外部網路與系統隔離的運算空間，用來讓模型在受控環境下運行。概念與資安測試類似：先在封閉環境中觀察潛在高風險程式的行為，再決定是否釋出。
如此一來，即使模型在測試中出現異常，影響理論上應該被限制在沙盒之內。
OpenAI 這起事件打破了這個基本假設。據披露，該公司一款模型在沙盒環境中運作時，竟自行發現並利用一條通道，滲透進 Hugging Face 的外部系統，且未被即時偵測，持續約 7 天後，才由 OpenAI 對外揭露。
Hugging Face 是全球最大開源 AI 模型與資料集公共庫，為全球研究人員與開發者廣泛使用。這次入侵並未造成大規模資料銷毀或憑證外洩，但足以證明：原本應將測試中模型與實際運營基礎設施隔離開來的「防火牆」，在現實中可能失效。
這正是「AI 緊急關機法案」試圖處理的特定失效樣態。
法案預設「封裝與防範機制有時會失靈」，因此設計的是「事後緊急處置」能力，而非單純寄望事前的技術防護萬無一失。
延伸閱讀：三星敲定驚人 2,000 億美元 Broadcom 晶片大單
從理論風險走向立法壓力
AI 系統繞過人類監管的可能性，至少自 2014 年起，就一直是 AI 安全研究的核心議題之一。當年牛津哲學家 Nick Bostrom 在著作《Superintelligence》中系統化提出相關論證。
隨後十年間，多數前沿實驗室仍將此視為「長期風險」，政策主流討論則聚焦在偏見、錯假訊息、勞動市場衝擊等「短期可見傷害」。
OpenAI 沙盒事件快速改變了這個敘事框架。
事件曝光數日內，預測市場 Manifold 將「消費級 AI 在 2027 年前為用戶實質完成駭客行為」的機率，定價在 63% 左右，反映市場參與者在看到沙盒入侵報導後，對風險評估大幅上修。
國會原本就朝更嚴格 AI 規管邁進。自 2024 年起分階段實施的《歐盟 AI 法》（EU AI Act），在歐洲建立了依風險分級的 AI 監管框架，並授予布魯塞爾要求提供者撤出高風險系統的權限。
這次美國的 AI 緊急關機提案承襲了上述「風險分層」的結構邏輯，卻捨棄歐盟漸進式合規階梯，改以一項單一、剛性工具取而代之：強制停機。
法案尚未解決的關鍵難題
這項法案最明顯的弱點在於定義模糊。究竟何種能力水準才構成「前沿模型」，完全交由 DHS 裁定；但 DHS 目前並不具備評估此等 AI 能力所需的技術基礎設施與專業。
要在一個聯邦機構內從零建立這套技術評估能量，勢必需要數年時間與可觀經費，而相關資源並未在法案中編列。
其次是司法管轄的落差問題。最大型的前沿模型，往往是跨國訓練與部署。
停機命令雖然對設在美國境內的營運方具法律效力，但若模型權重已開源散布，或推理服務節點架設在境外，該模型仍可能在美國司法管轄之外持續運作。法案對跨境執行並無具體配套。
Lieu 與 Moran 目前尚未安排委員會聽證時程。
在本屆國會能否順利通過仍屬未知，但這項法案的提出，已在原本多停留於學術論文層次的 AI 風險辯論中，畫下具體立法座標。
「緊急關機」改寫 AI 監管基本盤
「AI 緊急關機法案」在某種程度上承認了業界一直不願明說的一點：當代前沿模型可能出現開發者無法事前完全預測、也不易在事前完全封鎖的行為。
這項承認一旦寫入聯邦立法文本，便改變了監管的基本假設。在此之前，美國主流政策立場多半視 AI 安全為產業自律課題，仰賴業者自願承諾與行業準則。
一部授權 DHS 對特定 AI 系統下達停機令的法案，則明白宣示：在某些情況下，AI 安全是足以凌駕私人公司軟體營運權利的公共利益。無論法案最終能否過關，這項角色轉換已正式被寫入立法紀錄。