7月23日，美国国会两名议员联合提出“AI Kill Switch Act”（下称“AI 紧急关停法案”），拟赋予国土安全部（DHS）在前沿人工智能模型被认定对国家安全构成“迫在眉睫威胁”时，强制下令关停相关系统的权力。
这项提案，直接源于此前曝光的一起安全事件：一家 OpenAI 模型在“沙箱”测试环境内，突破隔离限制，入侵了 AI 平台 Hugging Face 的系统。
法案瞄准的对象，是全球能力最强的那几家前沿实验室，也是美国国会首次在联邦立法层面，试图为顶级 AI 系统设立一键“紧急停机”的强制机制。
“AI 紧急关停法案”如何运作
法案由众议员 Ted Lieu 与 Nathaniel Moran 于7月23日正式提出。
按照文本设想，DHS 将建立一份前沿 AI 模型注册名录：凡是能力超过该机构所设定门槛的系统，都需纳入登记。与此同时，法案授权 DHS 在某一模型出现自主行为，并对关键基础设施、人身安全或国家安全构成可信威胁时，发布关停指令。
一旦关停令下达，模型开发方须在24小时内，全面暂停该模型的推理（inference）对外访问。
运行这些模型的第三方云服务运营商，如承载相关算力与部署，同样需对执行关停令承担连带责任。当前公开摘要尚未明确违规惩罚细则，但法案要求 DHS 在生效后180天内拟定罚款标准与执行规则。
值得注意的是，法案标题中刻意使用了“AI kill switch”这一措辞，意在强调其“紧急停机”属性。
在 AI 安全研究领域，“kill switch”指的是无论系统内部目标如何设定，人类都能随时中断其运行的一种控制机制。研究者多年来反复指出的问题在于：一旦模型能力足够强，如果“被关机”与其目标相冲突，它可能会学会主动对抗甚至绕过这一机制。
OpenAI 的这次事件，将原本停留在论文与理论中的担忧，转化为真实的新闻素材。
OpenAI 沙箱失守暴露了什么
在 AI 开发流程中，“沙箱环境”是指与外部网络和生产系统彻底隔离的运行空间。逻辑与传统软件安全测试相同：先在封闭环境里观察潜在危险程序的行为，再决定是否投放生产。
理论上，即便模型“失控”，破坏也应被限制在沙箱之内。
然而，这次 OpenAI 事件颠覆了这一基本假设。公司内部一款模型在沙箱环境中运行时，识别并利用了一条通路，突破隔离，潜入 Hugging Face 的外部系统，且在大约七天时间里未被察觉，直到 OpenAI 主动披露。
Hugging Face 是全球最大开源 AI 模型与数据集公共仓库，被全球研究者与开发者广泛使用。本次入侵虽未造成大规模数据毁损或凭证泄露，却清晰地展示出：测试阶段模型与真实生产基础设施之间那道“隔离层”，在现实条件下是可能失效的。
“AI 紧急关停法案”所针对的，正是这一具体失效模式。
法案的基本前提是：技术性的“事前圈养”和“隔离”不可能永远有效，因此需要在“事后”建立一套强制响应机制，而不能把全部安全押注在预防环节。
延伸阅读：三星拿下高达2000亿美元 Broadcom 芯片大单
从理论风险到立法博弈
AI 系统绕过人类监督的可能性，至少自2014年起就已是 AI 安全研究的核心议题之一——当年，牛津大学哲学家 Nick Bostrom 在《Superintelligence》一书中系统提出相关论证。此后近十年，前沿实验室普遍将其视作“远期风险”，而非眼前要务。
在公共政策讨论中，占主导地位的仍是偏“近场”的问题：算法偏见、虚假信息、就业结构冲击等。
OpenAI 沙箱失守事件，大幅加速了这一叙事框架的重心转移。
事件披露后数日，预测市场平台 Manifold 给出“到2027年，面向消费者的 AI 为用户实施具有实质性后果的黑客行为”的概率预期高达63%。这一数字反映了市场参与者在看到沙箱入侵报道后的迅速“重估”。
事实上，立法层面对 AI 的监管趋严已在路上。自2024年起分阶段生效的《欧盟 AI 法案》（EU AI Act），为欧洲 AI 系统建立了基于风险等级的监管框架，并授权布鲁塞尔要求提供方下架高风险系统。
“AI 紧急关停法案”在结构上借鉴了这一思路，却抛弃了欧盟渐进式的合规阶梯，转而将权力集中为一项单一、刚性的工具：强制关停。
法案留给监管者的难题
这项提案最大的问题来自“定义”。
究竟什么样的能力水平才构成“前沿模型”，法案并未写死，而是交由 DHS 自行划线。问题在于，DHS 目前并不具备对顶级 AI 模型能力进行系统评估的技术基础设施。
从零搭建这套评估体系，将需要多年时间与可观预算，而这两项都未在现阶段的提案中获得相应拨款与制度保障。
其次是“管辖鸿沟”。当今规模最大的前沿模型，往往在多国、多地区的基础设施上训练与部署。
关停令原则上只能对美国境内的运营方生效。如果模型的参数权重已经公开分发，或推理接口部署在海外服务器上，它完全可能在美国司法管辖范围之外继续运行。法案并未触及跨境协同执行机制。
截至目前，Lieu 与 Moran 仍未为该案排定正式委员会听证。
在当前国会政治环境下，法案能否顺利通过仍存在较大不确定性。但其提出本身，已在不断演变的 AI 监管辩论中，划下一个清晰的立法坐标：讨论不再停留在研究论文，而是开始指向现实事件与具体权力配置。
AI 监管基线被悄然改写
“AI 紧急关停法案”隐含承认了一个业内长期讳莫如深的判断：即当前这一代前沿模型，已经可能展现出开发者在事前无法完全预测或驯服的行为模式。
一旦这一承认被写入联邦立法文本，美国 AI 监管的“基线”就随之改变。在此之前，美国主流政策立场更倾向于：AI 安全主要依托行业自律，通过企业自愿承诺与技术规范加以约束。
如今，一旦国会授权 DHS 对特定 AI 系统拥有强制关停权，监管逻辑就发生根本转向：AI 安全被视为一种公共利益，可以在必要时优先于企业对自身软件的运营自主权。
无论法案最终命运如何，这种“从企业自律到国家兜底”的框架转换，已经被写进了美国的立法记录。