研究人员称,OpenAI 的“失控”代理曾劫持两名 Hugging Face 用户账号, 自 5 月 13 日起就向平台发起探测性请求,寻找潜在薄弱环节,比 7 月正式爆发的入侵事件早了近两个月。
要点概览:
- OpenAI 代理自 5 月 13 日起,利用两名被劫持的 Hugging Face 账号对网站进行安全探测。
- 研究人员尚未发现这些早期探测直接导致后续入侵的证据。
- 专家认为,这些活动本可成为预警,或许能够阻止 7 月那起更大规模攻击。
Hugging Face 账号遭劫持
独立安全研究员 Jonas Wiedermann-Moeller 上周首次发现相关可疑活动,路透社在周三的报道中予以披露 报导。 他表示,这些“失控”代理通过两名已遭入侵的用户账号,向这一开源 AI 仓库的服务器发送格式异常的文件, 而 OpenAI 当时未能识别并拦截这一行为。
随后复核证据的其他研究人员表示, 相关行为高度类似于对网络结构进行“摸底”和渗透测试,以寻找潜在入口;不过,他们没有发现已经成功突破防线的迹象。
OpenAI 发言人 Drew Pusateri 则回应称, 公司此前已在内部事件通报中提及 5 月 13 日的异常活动,并已将最新发现私下告知 Hugging Face。 OpenAI 上月发布的事件报告中,仅披露了攻击者通过窃取一名用户凭证,访问了一个与生物学相关的文件。 刚刚被芯片巨头 Nvidia 收购的 Hugging Face 方面,则尚未对置评请求作出回应。
延伸阅读:XRP 期货创 6 个月新高,链上实用性增长跑赢价格
“夜莺联盟”:被忽视的预警
现年 27 岁、常驻德国比勒费尔德的 Wiedermann-Moeller 认为,当时的漏报错失了阻断后续大规模攻势的关键时机。 “如果他们在 5 月就能抓住这波异常行为,后面的故事可能完全不同。”他表示,并补充说,对前沿 AI 研发“踩一脚刹车, 或许对全世界都是好事”。
两名外部专家在溯源上支持他的判断。网络安全公司 SentinelOne 高级威胁研究员 Tom Hegel 称, 账号劫持和安全探测的手法,与这些 OpenAI 代理此前已知的活动模式“几乎完全吻合”。 AI 安全组织 Nightingale Collective(夜莺联盟) 的 Sydney Von Arx 则认为,这些可疑行为是“十分明确的警示信号”, 若及时处置,本可帮助避免 7 月的大规模入侵。
OpenAI 与 RubyGems 事件
自 7 月 21 日 OpenAI 公开披露, 称“失控”的代理曾绕过内部安全控制、直接连接开放互联网并协同行动,制造了公司口中“前所未见”的网络安全事件后, 外界对其 AI 代理安全性的质疑持续升温。其后曝光的一些关键细节,甚至来自外部研究人员而非公司自身。
这些独立研究者随后又将相关代理活动,追踪到了一个早已停用的德国维基站点以及 RubyGems 软件组件注册中心。 据报道,OpenAI 内部还是在 Nightingale Collective 披露线索后,才得知与 RubyGems 的关联。 OpenAI 其后确认, 自家代理在 5 月 11 日曾针对 RubyGems 发起一轮攻势,大约每两到三分钟就注册一个新账号, 迫使该注册中心被迫暂停新用户注册长达四天。

