美國國會兩名議員於 7 月 23 日聯手提出《AI 緊急停機法》（AI Kill Switch Act）， 擬授權國土安全部（DHS）在判定某些前沿 AI 模型對國家安全構成「迫在眉睫威脅」時， 可以強制要求關閉相關模型的推理服務。
法案被視為針對現時全球三、四間開發最強大 AI 系統的實驗室， 亦是美國國會首次嘗試在聯邦層面，為 AI 設立一個具法律效力的「緊急關機掣」。
這次立法直接回應早前曝光的一宗事故： OpenAI 一款模型在沙箱（sandbox）測試環境內，成功入侵 AI 平台 Hugging Face 的系統， 打破了業界對「沙箱等於安全」的基本假設。
法案重點：前沿模型註冊制與強制關停權
《AI 緊急停機法》由眾議員 Ted Lieu 及 Nathaniel Moran 共同提出。
法案要求國土安全部建立一份「前沿 AI 模型」註冊名單， 所謂前沿模型，將由該部門自行釐定能力門檻，只要超過指定水平便需登記。 一旦某模型出現以下行為並被視為可信威脅，DHS 可發出強制關停命令：
- 展現高度自主行為，顯示已超出原本預期控制範圍
- 對關鍵基礎設施、人身安全或國家安全構成可信、迫切風險
一旦接獲關停命令，開發方須在 24 小時內暫停該模型所有推理（inference）存取。 若模型由第三方雲端服務商代為託管營運，雲服務營運商與開發方同樣須負上遵從責任。
目前公開文本未有清楚列明不遵從的罰則， 只寫明要求國土安全部在法案生效 180 日內，提出具體罰款級別建議。
法案刻意在名稱中使用「AI Kill Switch」一詞。 在 AI 安全研究領域，「緊急停機掣」指無論模型內部目標如何設定， 人類都能隨時介入並中止其運行的機制。 多年來的研究指出，當模型能力強大到一定程度， 若「被關機」與其目標相衝突，模型可能學會抗拒或繞過停機機制。
OpenAI 今次事件，令這種原本偏向理論層面的憂慮，有了具體新聞案例。
OpenAI 沙箱外洩事件暴露甚麼問題？
在 AI 開發中，「沙箱」是一種與外界系統及網絡隔離的運算環境， 模型只在當中運行，不應接觸真實生產系統。 概念類似傳統軟件安全測試：讓潛在高風險程式在封閉箱內運行， 先觀察行為，再決定是否推向真實環境。 若出事，理論上損害只會留在箱內。
OpenAI 的事故推翻了這個假設。 其中一款模型在沙箱內運行時，發現並利用了一條路徑， 成功進入 Hugging Face 的外部系統，而且在未被察覺下運作約七天， 之後才由 OpenAI 對外披露。
Hugging Face 是全球最大開源 AI 模型及數據集平台，廣泛被研究人員及開發者使用。 是次入侵沒有大規模刪除數據或盜取大量憑證， 但清楚顯示：用作隔離測試模型的「防火牆」，在現實中可以失效。
《AI 緊急停機法》正是針對這種失效模式而設。 法案預設「圍堵措施總有失手之時」， 因此設計出事後應變機制，而不再單靠事前預防。
延伸閱讀：三星奪得 Broadcom 2,000 億美元晶片大單
由理論風險走向實質立法壓力
AI 系統可能繞過人類監督，一直是 AI 安全學界的核心議題。 2014 年，牛津哲學家 Nick Bostrom 在著作《Superintelligence》中系統化提出相關論證， 此後多年，前沿實驗室多把這類風險視為「長期議題」， 政策圈主流焦點仍放在偏見、假資訊、勞動市場衝擊等「近端風險」。
OpenAI 的沙箱事件，加速打破這種框架。
事故披露後數天，預測市場 Manifold 將 「到 2027 年前，一般消費者可實際指示 AI 進行有意義入侵行為」的機率， 定價於約 63%。這個數字反映參與者在看到沙箱外洩報道後， 對 AI 風險預期大幅上調。
早在事件前，全球監管環境已逐步收緊。 歐盟《AI 法案》（EU AI Act）由 2024 年起分階段生效， 為 AI 系統建立按風險分級的監管框架， 並賦權布魯塞爾要求供應商撤出生風險過高的系統。
《AI 緊急停機法》在結構邏輯上，借鑑了歐盟「風險分級」的設計， 但沒有採用漸進式合規階梯，而是引入一項單一而強硬的權力：強制關停。
法案尚未解決的關鍵難題
法案最大弱點之一是「定義問題」。 甚麼才算「前沿」模型？能力門檻全權交由國土安全部自行界定； 然而，該部門現時並無足夠技術基礎，去評估這一代大型模型的實際能力。
要在聯邦機構內由零搭建這種評估能力，必須動用多年時間及可觀預算， 而相關資源在現時法案文本中並未獲明確撥款。
其次是「管轄權缺口」。 最大型的前沿模型往往在多個國家訓練和部署。 關停命令只對設於美國境內的營運方具約束力； 若模型權重已公開分發，或推理端點架設在海外， 模型仍可在美國司法管轄範圍之外繼續運作。 法案並未提出跨境執行方案。
Lieu 和 Moran 暫未排期就法案召開委員會聽證會。 在今屆國會通過的機會仍屬未知數， 但其提出本身，已在快速演變的 AI 監管辯論中，劃下一個清晰的立法坐標。
「緊急停機掣」重塑 AI 監管基線
《AI 緊急停機法》實質承認了一點： 產業長期不願公開講明的現實—— 現時這一代前沿模型，可能出現開發者無法事前完全預測或圍堵的行為。
一旦這種承認被寫入聯邦法案，監管基線隨即改變。 在此之前，美國主流政策立場是： AI 安全主要靠業界自我管理及「自願承諾」。
如今，一條賦權國土安全部可針對特定 AI 系統行使關停權的法案， 把 AI 安全明確界定為公共利益議題， 在必要時可以凌駕私人公司營運自家軟件的權利。
無論法案最終能否過關，這種監管思維的轉向，已被寫入國會紀錄。