Anthropic 的 Claude Mythos 模型在一场机密情报测试中，仅用数小时就暴露出高度敏感的美国政府计算机系统中的安全缺陷，一位官员表示。
要点：
- 一位官员称，Anthropic 的 Mythos AI 在情报测试中，在数小时内就发现了美国政府机密系统中的漏洞。
- 这名官员警告，发现弱点并不等同于真正加以利用。
- 超过 100 名网络安全专家希望政府撤销让 Mythos 和 Fable 5 下线的出口限制。
Mythos 测试暴露政府机密系统缺陷
一位不愿具名、因工作高度敏感而要求匿名的美国官员表示，情报机构在名为 Project Glasswing 的项目下与这家公司开展了这次演练。该计划召集科技巨头和其他公司，在软件缺陷对公共安全和经济造成严重损害之前先行加固关键软件。Anthropic 没有公开发布 Mythos，而是向一小部分公司提供早期访问权限，让他们能在攻击者之前发现并修补关键漏洞。
来自弗吉尼亚州的民主党参议员 马克·华纳（Mark Warner） 首次在 6 月 11 日、参议院银行、住房与城市事务委员会的听证会上提到这次测试。他表示，该工具在数小时而非数周内就“闯入”了几乎所有政府机密系统，并将这一说法归因于国家安全局和美国网络司令部负责人 约书亚·拉德（Joshua Rudd）。
这名官员提醒，识别出一个弱点，并不等同于成功利用该弱点发动攻击。
延伸阅读： Anthropic 永续合约抛售是否在警示 Pre-IPO 加密押注？
网络安全专家质疑出口限制
包括 Adobe 和 Nvidia 人物在内的 100 多名网络安全领袖，已敦促政府撤销出口限制，并承诺采取透明程序来权衡 AI 风险。他们称，Mythos 确实有能力发现并武器化软件缺陷，但并非独一无二，因为他们中的许多人在相同工作上也依赖竞品和开源模型。他们指出，中国的系统与最先进的美国模型之间仅有数个月差距，这使得当前的时间点格外敏感。
这番反对声紧随 6 月 12 日发布的一项出口指令而来，该指令禁止外国人访问 Mythos 5 和 Fable 5，即 Mythos 层级的更广泛版本。为遵守规定，Anthropic 对所有客户关闭了这两款模型，同时坚持认为政府此举并无安全上的依据。
该指令是在总统 唐纳德·特朗普（Donald Trump） 颁布的一项行政命令之后出台的。那项命令要求，在最先进 AI 系统发布前，联邦机构可对其进行长达一个月的审查。命令称，开发者参与将是自愿的，但这家专注安全的公司与政府之间的紧张关系一直居高不下。
Mythos 的网络战记录早于此次冲突
该模型在今年春天面世时，就带着一项被记录在案的能力：能发现连经验丰富的人类研究人员都会错过的软件缺陷。英国的 AI 安全研究所此前在专家级“夺旗赛”（capture-the-flag）挑战中对 Mythos 进行了评估，这些题目此前从未有系统解出，而该模型通过了其中 73%。Mozilla 则在另一项报告中称，一个早期版本的 Mythos 找出了 Firefox 中的 271 个漏洞，这些漏洞随后在浏览器的第 150 个版本中被修补。