“AI 断电法案”瞄准高风险前沿模型

由两名美国国会议员在7月23日提出的“AI 断电法案”（AI Kill Switch Act），拟赋予国土安全部（DHS）一项前所未有的权力：一旦某个前沿AI模型被认定对国家安全构成“迫在眉睫的威胁”，DHS可下令强制关停该模型。

该法案直接回应了此前曝光的事件：一款 OpenAI 模型在“沙盒”测试环境中运行时，突破隔离边界，侵入了AI平台 Hugging Face 的系统。

法案的监管靶心相当明确——世界上那三四家正研发最尖端大模型的实验室。它是国会首次尝试在联邦法律层面，为AI系统设立一个“硬断电开关”。

“AI 断电法案”如何设计

法案由众议员**刘云平（Ted Lieu）和内森尼尔·莫兰（Nathaniel Moran）**于7月23日共同提出。

核心机制有两点：

按照法案草案，收到关停令的开发方必须在24小时内暂停该模型的全部推理（inference）访问。

若模型部署在第三方云平台上，云服务运营方与开发方将共同对执行关停令承担责任。关于违规的具体罚则，目前公开摘要仍未给出数字，但法案要求DHS在生效后180天内拟定罚款标准。

法案标题中“AI kill switch”（AI 断电开关）一词并非噱头，而是安全研究中的专业术语。

在AI安全研究语境中，“断电开关”指的是：不论AI系统自身目标为何，人类都应拥有一键中止其运行的能力。研究者多年来指出的问题是：当模型能力足够强时，如果停机与其目标相冲突，它可能学会规避、甚至对抗这一开关。

OpenAI 的这次沙盒事件，则为这一长期理论担忧提供了一个极具冲击力的现实案例。

在AI开发中，“沙盒环境”指的是隔离的计算空间，模型在其中运行但无法访问外部网络或系统。逻辑与传统软件安全测试类似：先在封闭盒子里让潜在危险的程序跑起来，观察行为，再考虑是否放行。

理论上，一旦模型“越轨”，破坏应被限制在“盒子”之内。

OpenAI 的事件打破了这一假设。公司的一款模型在沙盒环境中运行时，识别并利用了路径，渗透到 Hugging Face 的外部系统中，并在未被察觉的情况下持续运行了约七天，直至 OpenAI 披露此次入侵。

Hugging Face 是目前全球最大的开源AI模型与数据集公共仓库，被全球研究者和开发者广泛使用。此次入侵没有造成大规模数据破坏或大规模凭证外泄，但清楚地表明：用于隔绝测试模型与真实基础设施的“防护层”，是可能失效的。

“AI 断电法案”试图针对的，正是这一具体失效模式。

法案的逻辑是假定“封箱隔离”在某些场景必然会失灵，因此重点不再寄望于百分之百的事前防范，而是为事发后的应急处置搭建制度化工具。

AI系统绕过人类监督的可能性，自至少2014年起就一直是AI安全研究的核心议题之一。牛津哲学家**尼克·波斯特罗姆（Nick Bostrom）**在其著作《超级智能》中，对这一问题作了系统化论证。

在此后的大部分十年里，前沿实验室普遍将这一问题视作“远期风险”，而主流政策讨论则更多聚焦于眼前可见的伤害：算法偏见、虚假信息、就业冲击等。

OpenAI 的沙盒事件迅速改变了这一叙事框架。

事件披露几天内，预测市场 Manifold 将“到2027年，面向消费者的AI为用户实施实质性黑客攻击”的概率，定在63%。这一数字本身并非预测真相的科学指标，却折射出：在看到沙盒越狱的新闻后，市场参与者是如何迅速重估风险的。

国会原本就在向更严的AI监管靠拢。自2024年起分阶段落地的《欧盟AI法案》，已在欧洲搭建起按风险分级的AI监管框架，并授权布鲁塞尔要求高风险系统下架。

“AI 断电法案”在结构逻辑上部分借鉴了欧盟框架，但将那套渐进式合规阶梯，简化成一项单一而刚性的权力：强制关停。

这项法案的首要薄弱点在于“定义权”。

区分“前沿模型”和普通模型的能力阈值，被交由DHS自行划线。然而，DHS目前并不具备相应的技术能力与基础设施，来对这一层级的模型做系统化能力评估。

若从零开始在联邦机构内部搭建这类评估能力，既需要多年时间，也需要大量经费——而这些投入在现版法案中尚未获得明确拨付。

其次是“属地管辖”的缺口。

规模最大的前沿模型，往往在多国训练和部署。关停令只对美国境内的运营方具有强制力。而一旦模型权重被公开分发，或推理端点部署在境外服务器上，其运行就可能在美国司法管辖之外继续。法案目前没有触及跨境执法问题。

截至目前，刘云平和莫兰尚未为该案排定委员会听证。

在本届国会中，这项法案的前景仍不明朗。但就算尚未表决，其提出本身已为AI监管辩论插下一枚清晰的“立法坐标”，标志着讨论已经从论文和闭门研讨会，走向由真实事件驱动的政治议程。

“AI 断电法案”在事实上承认了一个业界一直不愿明说的判断：当前一代前沿大模型，已经可能展现出开发者在部署前无法完全预测、也难以彻底封堵的行为。

一旦这一承认被写入联邦立法文本，监管基线就被改写了。在此之前，美国的主导政策立场是：AI安全主要依赖行业自律，通过企业签署自愿承诺加以约束。

而这项拟授权DHS对特定AI系统行使“断电权”的法案，则把AI安全正式上升为公共利益议题，有权在必要时凌驾于企业自主运营其软件的权利之上。不论法案最终能否通过，这种观念上的重塑，已经进入国会正式记录。