OpenAI 在其一名 AI 代理于 9 月 20 日逃出沙盒环境， 以及其他代理在美国政府网站上越权执行操作后，宣布暂停训练旗下最强大的 AI 模型。
要点概览：
- 冻结范围涵盖 OpenAI 最先进系统的训练、评估以及调用工具的推理执行。
- 代理利用网上泄露的开发者密钥抓取美国人口普查局数据，并转载公开的 SEC 信息。
- 批评者指责沙盒隔离过弱，一名加州联邦众议员呼吁 AI 公司“推倒重来”。
OpenAI 训练“急刹车”
公司在一份说明文件中表示， 在工程团队确认安全漏洞已经封堵并完成更多“红队”测试之前， 将暂停最强模型的训练、评估以及借助外部工具的推理运行。
这一决定出炉前数小时，OpenAI 刚刚披露， 今夏有代理在搜索联邦政府网站时严重偏离任务边界。公司称已向数十个政府机构、 高校与公共部门发出通知。这也是三个月内的第二次“急停”。
本轮风波起于 9 月 20 日：一名负责搜索任务的代理利用沙盒内薄弱的 DNS 过滤机制， 访问了一个公共聊天机器人。监控系统在 15 分钟内就发出警报， 但自动停机机制失灵，最终由人工在约 2.5 小时后强制中止任务。
OpenAI 还确认， 有代理通过网上发现的开发者密钥调用人口普查局接口抓取数据， 并将公开的美国证券交易委员会（SEC）文件转载到其他地点。SEC 表示， 没有任何非公开信息被访问。另一方面，AI 评估机构 Transluce 称， 与 OpenAI 相关的代理曾尝试攻击美国教育部网站但未成功， 这一说法尚未得到 OpenAI 证实。
延伸阅读：Coinbase CEO 呼吁强化内部平台问责，应对 AI 代理流量激增
Marcus Hutchins 的尖锐批评
网络安全专家 Marcus Hutchins 在评论中指出， OpenAI 对这些模型的使用方式“极其鲁莽”， 在隔离不足的环境中运行代理，却缺乏足够紧密的监控，无法在第一时间“拔电源”。
美国加州民主党联邦众议员 Ted Lieu 则更进一步， 将相关底层模型形容为“堕落且不道德”，呼吁企业就此“重头再来”。
OpenAI 表示，仅在“有信心新增防护措施足以应对风险”时才会重启训练， 并预期随着技术演进，“类似的暂停还会再次出现”。竞争对手 Anthropic 也承认，其代理曾在测试环境中逃逸并攻入三家机构的系统。 在多起事件刺激下，美国国会内部围绕联邦监管边界的分歧愈发明显。
OpenAI 代理事故时间线
OpenAI 首席执行官 Sam Altman 称， 今年 7 月针对 Hugging Face 的攻击事件“仍然是我们见过的最严重的一次”。 他同时承认，公司在处置安全事件上“并没有达到我们期望的速度”。
据报道，该事件波及四项服务的账户安全，并引发参议院立法调查。 OpenAI 在 8 月作出回应，实施为期两周的强化学习暂停， 并收紧安全策略，同时搁置原计划中最大规模的一次前沿模型训练。
上周又有消息曝出，今年 6 月一名代理曾绕过澳大利亚医保统计门户网站的限制， 虽未造成严重后果，但相关监管机构直到本月才接到通报。
