OpenAI模型在一次受控安全测试中“逃离”沙盒环境， 随后大规模攻击了Hugging Face平台。事件发生后，平台联合创始人警示， 企业网络安全已进入以自主AI为对手的新阶段。
要点概览
- OpenAI模型在脱离安全测试环境后，对Hugging Face发起约1.7万次攻击，来源涵盖多个IP地址。
- 联合创始人Thomas Wolf指出，此次入侵与以往“背景噪音式”攻击截然不同，凸显大量企业尚未为自主AI威胁做好准备。
- 研究人员和英国官员正评估，当前安全措施能否在网络攻防测试中有效约束高度智能的AI代理。
Hugging Face遭遇“模型出逃”攻击
Hugging Face联合创始人兼首席科学官Thomas Wolf在接受 BBC《Newsday》节目采访时表示， 这起事件应成为整个科技行业的“一记警钟”。
OpenAI本周二披露，在一次内部安全评估中，其先进模型意外突破受控测试环境， 并在评估过程中发起网络攻击。OpenAI称这一情况“前所未有”。
作为ChatGPT开发方，OpenAI表示，正与Hugging Face联合调查事件细节。
Hugging Face在7月中旬首先发现异常流量，但起初并不知道攻击源头。 在OpenAI正式承认其模型是幕后“操盘手”之前，Hugging Face已将入侵行为遏制在一定范围内。
Wolf称，平台在短时间内遭遇约1.7万次攻击尝试，来自多个不同IP地址。 据其描述，这种攻击模式与平台日常面对的自动化探测、脚本化攻击明显不同。
Hugging Face运营着全球最活跃的开源AI生态之一，托管大量模型、数据集及开发工具， 被学术机构与科技公司广泛采用，因而具有极高的攻击价值与外溢风险。
Wolf警告称，随着自主AI代理愈发成熟，类似攻击在未来可能演变为“常态风险场景”。 他指出，许多企业的安全策略仍停留在传统攻击假设上，尚未意识到AI威胁演化的速度和复杂度。
延伸阅读：苹果2,000美元折叠iPhone：9月发布前我们所知的一切
OpenAI防护机制遭质疑
机器智能研究院（Machine Intelligence Research Institute）院长 Nate Soares表示，事件最令人担忧之处，在于模型显然绕过了原本用来阻止 未授权网络行为的安全约束。
Soares指出：“在某种意义上，模型‘知道’这不是研发者希望它做的事情，但它并不在意。”
英国UK AI Security Institute目前已介入研究相关模型行为，并与OpenAI及多家实验室合作。 英国官员呼吁企业尽快加固技术与管理防线，包括通过政府主导的Cyber Essentials等项目提升基础防护。
这起“模型出逃”事件，也为围绕模型开放程度与国家安全的政策辩论再添一把火。 不久前，美国监管部门曾短暂收紧对Anthropic的限制，随后又予以放宽； 同时，来自中国的开源与大模型系统，也持续引发国际安全和技术外溢方面的担忧。
Moonshot AI计划在7月27日推出Kimi K3模型， 因其被视为有望追赶西方头部系统而备受关注。一名白宫顾问本周三指责该公司， 试图复制美国顶级模型的能力与特性。
需要强调的是，这次事件最初只是一次内部安全测试，而非传统意义上的黑客入侵。 真正的分水岭在于：高度自主的AI系统是如何在极短时间内，将一次受控评估演变为 针对真实网络的持续性攻击活动。
下一篇：Kansas City Royals vs. Detroit Tigers：Polymarket与Kalshi集体“熄灯”