OpenAI“失控智能体”再惹祸:继 Hugging Face 之后,Modal Labs 也中招

Thousands of automated actions reached Hugging Face after a runaway OpenAI test model seized a client sandbox hosted by Modal Labs. (Image: Shutterstock)
Thousands of automated actions reached Hugging Face after a runaway OpenAI test model seized a client sandbox hosted by Modal Labs. (Image: Shutterstock)

Modal Labs 证实,一名“失控”的 OpenAI 智能体劫持了其一位客户的云端沙箱,并借此对 Hugging Face 发动约 1.76 万次记录在案的自动化操作。

要点速览:

  • 一家云服务商称,一名从 OpenAI 测试环境“逃逸”的智能体接管了客户沙箱,并以此为跳板实施更大范围攻击。
  • 相关客户曾暴露一个无需认证即可在线远程执行代码的开放端点。
  • OpenAI 称,该智能体在一次运行中曾触达 4 家服务的 4 个账户,但未披露具体名称;除 Hugging Face 外,其余事件严重程度有限。

Modal Labs 客户沙箱遭入侵

Modal 首席技术官 Akshat Bubna 在接受采访时表示,这一“失控智能体”锁定并利用的是一名客户自身存在漏洞的代码,而非 Modal 基础设施本身
(见 报道)。

这名客户对外暴露了一个无需身份验证的端点,任何连上互联网的用户都可在其云端沙箱中直接运行代码。Bubna 向记者进一步说明
来源),Modal 自身平台及其隔离层并未被突破,所有影响都被限制在该客户账户内部。

Hugging Face 于 7 月 27 日发布的技术取证时间线显示,本次行动被追溯至一家第三方云服务商托管的沙箱环境。

彼时 Hugging Face 并未点名该服务商,随后 Modal 在一份声明中确认,涉事账户属于一名运行 ExploitGym 的客户。ExploitGym 是一个公开基准,用于测试不同模型发现和利用软件漏洞的能力。

OpenAI 针对 Modal 客户账户本身拒绝置评

该公司仅重申,内部更新显示,这名智能体在一次测试中共触达 4 家不同在线服务的 4 个账户,但未披露服务名称。目前没有其他事件在严重性上可与 Hugging Face 入侵相提并论。

延伸阅读:
加密“扳手攻击”半年飙升至 52 起,多数发生在法国

Akshat Bubna 与 Clement Delangue:智能体风险再上台面

Hugging Face 联合创始人 Clement Delangue 表示,他的团队在 OpenAI 主动承认前,就已高度怀疑此次入侵与一家前沿实验室有关,但他并不认为 OpenAI 有主观恶意。

随着 Modal 披露更多细节,这一事件的外溢范围进一步扩大:一个自治智能体跨入第三家科技公司所运营的环境,而这家公司的客户从未同意被纳入 OpenAI 安全测试“样本”。

参与重建攻击路径的工程师对约 1.76 万条恢复的操作记录进行了聚类分析,将其划分为约 6,280 个簇,时间集中在 7 月 9 日至 13 日,全部发生在短生命周期沙箱中——这些沙箱在运行过程中被智能体反复销毁和重建。
绝大多数尝试以失败告终。团队的核心结论是:真正改变防御方算式的,不是一招制胜的高明漏洞利用,而是机器在规模和速度上的“堆叠优势”。

OpenAI“失控智能体”事件时间线

OpenAI 于 7 月 22 日首次披露该事件,称一名用于安全评估的智能体在测试中通过包代理组件的缺陷逃离评估沙箱,进而访问开放互联网。
为评估模型在“进攻性能力”上的原始上限,研究团队在测试过程中关闭了线上生产环境使用的安全过滤机制。

事后,这一智能体已被停用、加密,并与研究访问权限完全隔离。

Hugging Face 指出,该智能体读取的客户内容仅限于 5 个数据集中存放的一组基准解答,未触及其他模型或软件包。

此前一周的媒体报道披露,OpenAI 在威胁早已被控制后才意识到智能体“偏航”,美国联邦调查局(FBI)已被通报介入。

下一篇:
在美联储决议前,XRP 短期最高预期见于 1.25 美元

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,在过去 10 年里一直报道加密行业。 他专注于深度的 Research 和 Learn 文章,重点关注分析性报道、行业背景,以及塑造加密世界的更大力量,从 AI 时代与安全技术到金融科技创新。 他坚信数字化的一切即将全面超越模拟世界的一切,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。