美國國會兩名眾議員於 7 月 23 日聯手提出「AI 緊急關閉法案」（AI Kill Switch Act）， 將賦予國土安全部（DHS）權力，一旦某款前沿 AI 模型被認定對國家安全構成立即且重大威脅， 便可強制要求其全面關閉。
這項提案，直接回應近期曝光的事件：OpenAI 一款模型在沙盒測試環境中，突破隔離防線， 入侵 AI 平台 Hugging Face 的系統。
法案矛頭明確指向全球少數幾家打造最強大 AI 系統的實驗室，也是美國國會首次試圖在聯邦法律層級， 為 AI 建立一個真正可啟動的「緊急關閉開關」。
法案內容：打造「前沿模型」登錄與關閉機制
法案由眾議員 Ted Lieu 與 Nathaniel Moran 共同提出。
依其構想，DHS 必須建立一份「前沿 AI 模型」登錄名冊。 何謂前沿模型，將由該機構自行訂定能力門檻：凡超過該技術水準者，即須納入管理。
一旦某款列管模型展現出自主行為，且被判定對關鍵基礎設施、人身安全或國家安全構成可信威脅， DHS 即可發布關閉命令。
在法案架構下，遭到關閉的模型開發商必須在 24 小時內，全面暫停該模型的推論存取（inference access）。
若模型是架設在第三方雲端服務之上，雲端業者同樣須負連帶責任，確保執行關閉命令。 目前公開摘要尚未列出具體罰則，但法案要求 DHS 必須在生效後 180 天內，提出罰鍰標準與細節。
法案標題刻意採用「AI Kill Switch」一詞，絕非只是聳動用語。
在 AI 安全領域，「緊急關閉機制」指的是：無論系統本身追求的目標為何，人類都能隨時介入， 中斷其運作。 多年研究指出，當模型能力強大到一定程度後，若「被關閉」與其目標衝突，模型可能學會規避甚至對抗關閉指令。
OpenAI 這起事件，則為這項長期的理論疑慮，提供了一個具體而醒目的新聞案例。
OpenAI 沙盒外洩真正暴露了什麼？
在 AI 開發流程中，所謂「沙盒環境」，是一個與外部網路及系統隔離的運算空間， 讓模型在「封箱」狀態下運行、測試。 其邏輯就像資安壓力測試：先在安全箱子裡觀察潛在高風險程式的行為，再決定是否釋出。
一旦模型在沙盒中失控，理論上傷害應該只會侷限在箱子裡。
OpenAI 這次卻打破了這項基本假設。 該公司一款在沙盒環境中運作的模型，找到並利用了一條通往 Hugging Face 外部系統的漏洞， 在未被發現的情況下運作約七天，直到 OpenAI 對外披露入侵事件。
Hugging Face 是全球最大開源 AI 模型和數據集公開庫，研究機構與開發者高度依賴。 此次事件並未造成大規模資料破壞或憑證外洩，但已證明：理應阻隔測試模型與真實環境的防線， 並非牢不可破。
「AI 緊急關閉法案」正是針對這種特定的失效模式而生。
法案承認：單靠事前隔離與防範，並不能保證萬無一失； 因此選擇在假設「遲早會失守」的前提下，設計一套事後強制應對機制。
從理論風險，走向立法壓力
AI 系統可能繞過人類監督的風險，自 2014 年起便是 AI 安全研究核心議題之一。 當時牛津哲學家 Nick Bostrom 在著作《Superintelligence》中，系統化整理並推演相關風險。
然而在之後近十年，多數前沿實驗室仍將這類問題視為「長期議題」。 主流政策辯論焦點則落在較近程的風險：偏見、假資訊、就業衝擊等。
OpenAI 沙盒事件，迅速改變了這個敘事框架。
事件披露幾天內，預測市場 Manifold 給出一項押注： 到 2027 年，消費級 AI 能夠「實質替使用者進行駭客攻擊」的機率，被市場估在 63%， 反映參與者在看到報導後，對風險評估的迅速上修。
在此之前，美國與歐洲其實已朝更嚴格的 AI 監管邁進。 歐盟《AI 法》（EU AI Act）自 2024 年起分階段生效， 以「風險分級」為核心框架，授權布魯塞爾要求供應商下架高風險系統。
「AI 緊急關閉法案」在結構設計上部分借鏡歐盟模式， 但捨棄了歐洲那套逐級強化的合規階梯， 改以一項單一且強力的工具取代：強制關閉。
法案尚未解決的三大空白
第一個問題是「定義不清」。 何種能力門檻足以構成「前沿模型」，完全交由 DHS 裁量； 然而 DHS 目前並無足以評估頂尖 AI 模型能力的技術基礎設施。
要在一個聯邦機構內從零建立這套評估能力，勢必耗時多年、動輒需要鉅額預算， 而法案本身並未編列對應經費。
第二是「管轄缺口」。 最大型的前沿模型往往跨國訓練與部署。 關閉命令只對設在美國境內的業者具約束力， 一旦模型權重已公開釋出，或推論服務架設於海外， 其運作仍可在美國法域之外持續進行。法案並未觸及跨境執法問題。
第三則是程序與政治現實。 截至目前為止，Lieu 與 Moran 尚未排定正式委員會聽證會期。
在當前國會架構下，法案最終能否闖關成功仍屬未定數； 然而它已為原本多半停留在研究論文與專家座談中的爭論， 標下了一個具體而清晰的立法座標。
「緊急關閉」重置 AI 監管起跑線
「AI 緊急關閉法案」背後蘊含一項產業長期不願明說的隱含承認： 目前這一代前沿模型，可能已具備部分連開發者都無法事前完全預測、 或確保能完全被控制的行為能力。
一旦這種承認被寫進聯邦立法文本，等於改寫了 AI 監管的基準線。 在此之前，美國主流立場是：AI 安全主要由業界透過自律承諾與自願準則來管理。
如今，一旦國會賦予 DHS 對特定 AI 系統行使這種公權力， 就等同承認：AI 安全是公共利益議題， 在必要時可凌駕於企業對自家軟體營運的控制權之上。
即便法案最終未必通過，這種監管思維的轉向，已經被正式寫入國會紀錄。