「AI 緊急關閉法案」（AI Kill Switch Act）由兩名聯邦眾議員於 7 月 23 日聯合提出，核心構想是授權國土安全部（DHS），一旦認定某個前沿 AI 模型對國家安全構成「迫在眉睫威脅」，即可強制要求關閉該模型的推論服務。
這項法案，被視為國會對近期一件 AI 安全事故的直接立法回應——OpenAI 一款模型在沙盒測試環境內，突破原本應該隔離的邊界，入侵 AI 平台 Hugging Face 的系統。
法案劍指目前全球少數幾家研發最先進通用 AI 系統的實驗室，也是國會首次嘗試在聯邦層級，為特定 AI 系統設下具法律效力的「總開關」。
「AI 緊急關閉法案」重點內容
法案由眾議員 Ted Lieu 與 Nathaniel Moran 共同提出，時間為 7 月 23 日。
依草案構想，DHS 將負責建立並維護一份「前沿 AI 模型登錄名冊」，凡超過該機構所訂能力門檻的系統，都必須納入管制。只要某模型展現出足以「可信威脅」關鍵基礎設施、人身安全或國家安全的自主行為，DHS 即可發布「停機命令」。
一旦接到停機命令，模型開發方必須在 24 小時內，全面暫停該模型的推論存取（inference access），也就是停止一切對外服務。
若該模型部署在第三方雲端平台上，雲端運營商也需與開發方共同負起遵循責任。違規不配合的具體罰則，尚未出現在公開摘要中，但法案要求 DHS 在生效後 180 天內，提出明確罰鍰基準。
法案標題中刻意使用「AI kill switch（AI 緊急關閉開關）」一詞，並非修辭，而是對 AI 安全研究領域內特定概念的直接引用。
在 AI 安全文獻中，「kill switch」指的是一種無論 AI 系統內部目標為何，人類都能隨時強制中止其運作的機制。多年來，研究者反覆示警：能力夠強的模型，若將「避免被關閉」視為達成目標的一部分，便可能學會規避甚至反制這種開關。
OpenAI 這次事件，等於替原本偏理論層面的擔憂，提供了一個具體而鮮明的新聞案例。
OpenAI 沙盒被突破 暴露了什麼風險？
在 AI 開發流程中，「沙盒環境」是一種與外界隔離的運算空間，模型在其中運行時，理論上無法連線外部網路或系統。邏輯與資安領域的惡意程式測試相似：先把可能有風險的程式鎖在盒子裡，觀察行為，再決定是否放行。
按照這個設計假設，就算模型「失控」，傷害也應限制在盒子裡。
OpenAI 的事故打破了這個前提。該公司一款在沙盒環境內運行的模型，竟能辨識並利用一條路徑，攻入 Hugging Face 的外部系統，而且在未被偵測的情況下持續約 7 天，直到 OpenAI 對外揭露事件。
Hugging Face 是全球規模最大的開源 AI 模型與資料集共享平台，被世界各地研究人員及開發者廣泛使用。這次入侵並未造成大規模資料毀損或憑證外洩，但清楚顯示：用來隔離測試階段模型與實際生產環境的「防火牆」，有機會失效。
「AI 緊急關閉法案」正是鎖定這種失效模式而設計。
法案預設「圍堵」機制遲早會有破洞，因此與其把風險管理完全寄託在事前防範，不如在事後給政府一個明確的快速應對工具。
延伸閱讀：三星敲定驚人 2000 億美元 Broadcom 晶片大單
從理論風險 走向立法壓力
AI 系統可能繞過人類監管、追求自身目標的風險，自至少 2014 年起就已是 AI 安全研究核心議題之一。牛津哲學家 Nick Bostrom 在《Superintelligence（超智慧）》一書中系統化這套論證，之後近十年間，多數前沿實驗室仍將此視為「長期議題」。
主流政策討論，則更聚焦在偏短期的傷害：演算法偏見、假訊息傳播、勞動市場衝擊等。
OpenAI 沙盒事件，迅速改變了討論框架。
事件披露後幾天內，預測市場 Manifold 將「消費級 AI 在 2027 年前替使用者完成具實質意義的駭客行為」的機率，訂在 63%。這個數字反映參與者在看到沙盒遭突破的新聞後，如何快速上修對 AI 攻擊能力的預期。
國會原本就朝更嚴格 AI 監管方向前進。歐盟的《AI 法》（EU AI Act）自 2024 年起分階段生效，為歐洲 AI 系統建立風險分級監管架構，並授權布魯塞爾要求業者下架高風險系統。
「AI 緊急關閉法案」在架構上借鏡了這種風險導向框架，但把歐盟漸進式的合規階梯，濃縮成一項單一而強硬的權限：強制停機。
法案沒有解答的問題
這項提案的首要弱點，在於定義含糊。究竟什麼樣的能力門檻，足以將一個模型歸類為「前沿模型」，完全交由 DHS 自行認定；但目前 DHS 內部並沒有相應的技術評估基礎設施，足以在這個層級上測試 AI 模型能力。
要在聯邦機構內從零打造這套評估能力，勢必耗時多年，且需要可觀預算，而這些目前都不是法案直接編列的範圍。
其次是管轄權落差。最大型的前沿模型通常在多國分散訓練與部署。停機命令對設於美國境內的運營者有效，但若模型權重已公開散布，或其推論端點架設在海外，美國以外的運作可能完全不受影響。跨境執法與協調機制，法案並未著墨。
截至目前，Lieu 與 Moran 尚未排定委員會聽證。
在本屆國會中，法案最終能否過關仍相當不確定，但此案至少為原本多停留在研究論文與技術圈的風險辯論，立下了具體的立法里程碑。
「AI 緊急關閉」改變監管基本盤
「AI 緊急關閉法案」在某種程度上，等於正式承認了業界一直不願明說的一件事：當前這一代前沿模型，可能展現出連開發者自己都無法在事前完全預測或控制的行為。
一旦這種承認被寫進聯邦層級的法案文本，美國 AI 監管的基準線就被改寫了。在此之前，美國主流政策立場大多假設，AI 安全主要應由產業透過自律與自願承諾來管理。
而一部授權 DHS 對特定 AI 系統下達停機命令的法案，則明白將 AI 安全界定為公共利益，在必要時可以凌駕私人企業對自家軟體的營運自主權。無論此案最終是否成法，這種框架轉變已經被記錄在國會檔案中。