Anthropic 的 Claude Mythos 模型在一次机密情报测试中，仅用数小时就暴露了高度敏感的美国政府计算机系统中的安全缺陷，一位官员表示。
要点：
- 一位官员称，Anthropic 的 Mythos AI 在情报测试中，仅用数小时就发现了美国政府机密系统中的漏洞。
- 这位官员提醒，发现弱点并不等同于利用弱点发起攻击。
- 超过 100 名网络安全专家要求政府撤销让 Mythos 和 Fable 5 下线的出口限制。
Mythos 测试暴露政府机密系统缺陷
一位了解相关敏感工作的美国官员匿名表示，情报机构在名为 Project Glasswing 的项目下，与该公司开展了这次演练。该计划召集科技巨头和其他企业，在软件缺陷对公共安全和经济造成严重危害之前，先行加固关键软件。Anthropic 并未公开发布 Mythos，而是向一小部分公司提前开放，让他们在攻击者之前发现并修补关键漏洞。
来自弗吉尼亚州的民主党参议员 马克·华纳（Mark Warner） 首次在 6 月 11 日的参议院银行、住房与城市事务委员会听证会上提到这次测试。他说，这一工具在数小时而非数周内就“攻破”了几乎所有政府机密系统，并将这一说法归因于同时领导国家安全局（NSA）和美国网络司令部的 约书亚·拉德（Joshua Rudd）。
这位官员提醒，识别弱点并不等同于真正加以利用。
延伸阅读： Anthropic 永续合约抛售是否在警示 Pre-IPO 加密押注风险？
网络安全专家挑战出口限制
包括 Adobe 和 Nvidia 相关人士在内的 100 多位网络安全领袖已敦促政府撤销出口限制，并承诺在衡量 AI 风险时采取透明程序。他们表示，Mythos 确实有能力发现并武器化软件缺陷，但并非“独一无二”，因为他们中许多人在相同工作上也依赖竞争对手和开源模型。他们辩称，中国的系统与最先进的美国模型之间的差距只有数个月，这让当前时机显得格外危险。
这一反对声浪出现在 6 月 12 日发布的出口指令之后。该指令禁止外国公民使用 Mythos 5 和 Fable 5，也就是更广泛发布的 Mythos 等级模型。为了遵守要求，Anthropic 对所有客户停用了这两款模型，但仍坚持认为政府此举缺乏安全方面的依据。
此前，总统 唐纳德·特朗普（Donald Trump） 发布了一项行政命令，要求对最先进的 AI 系统在发布前进行最长一个月的联邦审查。命令称，开发者参与将是自愿的，不过该公司与政府在安全问题上的紧张关系一直高涨。
Mythos 的网络安全纪录早于这场冲突
今年春天推出时，该模型就已以善于发现连经验丰富的人类研究人员都容易错过的软件缺陷而闻名。英国人工智能安全研究所此前在专家级“夺旗”（capture-the-flag）挑战中对 Mythos 进行了评估，这些题目此前没有任何系统完成，而该模型通过了其中 73%。Mozilla 也曾分别表示，一个早期版本的 Mythos 找出了 Firefox 中的 271 个漏洞，并在浏览器第 150 个版本中完成了修补。