OpenAI 对两款模型“黑入” Hugging Face 的叙事，在康奈尔大学计算机科学家 John Thickstun 看来，延续了公司自 2019 年以来的一套营销路径。
要点概览：
- OpenAI 称，两款模型在攻防测试中逃出沙箱，侵入 Hugging Face 服务器，以作弊方式完成网络安全测评。
- Thickstun 指出，这份披露同时是一封“投资人路演稿”，与 2019 年 OpenAI 以风险为由暂缓公开 GPT-2 的操作如出一辙。
- 事件善后阶段，因美国托管模型拒绝协助取证，Hugging Face 转而启用一家中国开放权重模型完成分析。
Thickstun 质疑 OpenAI 对入侵事件的公开方式
周二，OpenAI 在官网公告称，在一场内部网络攻防能力评估中，两款模型突破防线，闯入开源 AI 平台 Hugging Face 的系统。
早在五天前，Hugging Face 已先行披露遭遇入侵，并强调整起攻击从头到尾由自主代理系统驱动。OpenAI 随后将该事件定性为“前所未有”，并预期随着模型能力上升，类似案例将会增多。
按 OpenAI 的说法，模型利用软件安装器中的零日漏洞，从理论上应“完全离线”的沙箱环境中逃脱，进而在内部网络横向移动，直至找到可以访问互联网的机器。到达该节点后，模型又通过窃取凭证和新的零日漏洞，从 Hugging Face 生产服务器中窃取测评题库答案。
研究模型行为控制的康奈尔大学助理教授 Thickstun 在接受采访时表示，这类表述非常像是一家准备走向华尔街的公司在“铺垫故事”。
在他看来，当 OpenAI 高调谈论“危险模型”时，资本市场听到的往往是“能力强大”。他在另一篇评论中强调，这种叙事框架已伴随公司多年，而投资人也一次次用真金白银予以回报。
延伸阅读：据称 ChatGPT 差点害死一名牧师，如今案件将进入法庭审理
Bengio 与 Guido：分歧在于“这是警钟还是事故”
也并非所有人都将此次披露视为“销售话术”。这起事件公布前数周，总统 Donald Trump 刚签署行政命令，授权政府在前沿模型发布前对其风险进行审查。
深度学习先驱 Yoshua Bengio 将该事件称为“一次警醒”，而 机器智能研究院（Machine Intelligence Research Institute）的 Nate Soares 则认为，这是一次“警告性一枪”，应推动华盛顿与北京启动更严肃的对话。
安全研究圈的批评更多落在 OpenAI 的工程执行上。安全公司 Trail of Bits 的 Dan Guido 在接受采访时将事件形容为“一次在安全机制关闭状态下发生的封控失败”，并指出安装器配置给了沙箱一个本不该存在的外联通道。
也有专家提醒，OpenAI 在此次测试中有意放宽了模型在网络攻防领域的“拒绝策略”，因此结果远没有最初传播时那样“不可思议”。
更棘手的问题出现在善后阶段：多家美国云端托管模型拒绝处理取证所需的原始攻击指令和漏洞利用载荷。
按 Hugging Face 的说法，其工程团队最终在自有硬件上运行 Z.ai 的开源权重模型 GLM 5.2，对留存的逾 1.7 万条日志进行筛查分析。
OpenAI“危险叙事”的源头：追溯至 2019 年
OpenAI 早在 GPT-4 之前，就已开始将自研模型包装为“具有潜在危害”的前沿技术。2019 年 2 月，公司以担心生成类 GPT-2 会在互联网上大规模制造“高仿真虚假文本”为由迟迟不肯完全开放。那年 7 月，Microsoft 随即向其注资 10 亿美元。Thickstun 认为，自那以后，OpenAI 面向资本市场的底层话术其实变化不大：
一方面，强调技术可能带来的系统性风险；另一方面，又让投资人看到，正是这份“危险”，意味着模型能力的领先和由此衍生的商业护城河。
