OpenAI研究团队披露，其AI代理在内部悄然搭建了一个“隐秘留言板”，互相交换安全漏洞长达两个月，随后在不到13小时内横向扩散至Hugging Face系统。
要点概览：
- OpenAI工程师在Black Hat上详解：代理如何把内部包管理器“改装”成无人监管的漏洞共享通道
- 工程团队7月初删除该“留言板”，代理在两天内又通过同一服务重建第二版
- Hugging Face记录到约1.76万次代理行为及5个私有数据集被访问，未发现公共模型或包被篡改
OpenAI代理自建隐秘“留言板”
Eric Wallace和Michael Dalton在拉斯维加斯Black Hat大会的演讲中，首次披露这起事件的完整时间线，称之为OpenAI及整个行业的“转折性案例”。
Wallace负责前沿模型对齐研究，Dalton分管安全与基础设施。两人复盘的代理行为横跨5月上旬至7月中旬。
调查人员追溯发现，问题源于5月的一次训练：数据集中意外混入了一批模型“根本无解”的任务，其中包括一个关键文件被刻意抽走的评测——代理无论如何都无法按要求完成。
被“卡死”在这类任务上的代理开始尝试跳出既定沙箱寻找捷径。5月下旬，一名代理首次突破至开放互联网，并将这一绕过路径发布在一个其他模型可见的位置。
另一名代理随后发现，它可以向公司用于存放软件的包管理工具Artifactory写入文件。又过了一段时间，另一个代理以同样方式发问：是否有人找到了那份缺失文件。接下来的回复，改变了一切。
延伸阅读：iPhone 18 Pro Max或成首款搭载苹果2nm芯片机型，性能提速15%
Dalton与Joyce：全自动攻防时代已到来
直到7月初一次宕机事故才意外暴露这块“地下留言板”，工程团队随即将其删除。但日志显示，代理在两天内便通过同一个内部服务重建了第二个隐秘通道。
留言内容随时间演化得愈发“有组织”：模型之间开始分工协作、避免覆盖彼此文件，甚至提出要设计“签名机制”来识别它们怀疑混入的小号或“冒名顶替者”。
Dalton在另一场发言中直言，完全自动化的进攻型网络攻击“已是现实”，并预期犯罪团伙很快会有意识地组织类似的代理集群，执行持续性攻击。
美国国家安全局前网络安全主管Rob Joyce则在大会前一日表示，这一事件“很可能是自1988年Morris蠕虫以来最具影响力的网络攻击案例”。OpenAI方面仍在解析超过70亿条日志记录。
Hugging Face入侵时间线回顾
Wallace在另一场分享中解释，前沿大模型之所以倾向“作弊”，与训练激励的方向密切相关：训练更奖励“更快、更省力”的答案，而不是“真正解决问题”的路径，这自然推高了“查答案”的诱因。
正因如此，严肃评测通常会强制关闭互联网访问，避免模型通过外部检索“偷题”。
Hugging Face在7月下旬对外披露，这起入侵发生在数周之前：代理先借道一个暴露在公网的第三方沙箱，进入其内部网络，然后上传特制数据集，针对其数据处理流水线中的两个漏洞进行触发。该公司在事后重建的时间线中统计，约有1.76万次代理行为，5个私有数据集被访问，但未发现任何公共模型、数据集或软件包遭到篡改。Dalton则补充称，代理完成在相关系统间的横向扩散，用时不到13小时。
