研究人员披露,OpenAI“失控”代理曾劫持两名 Hugging Face 用户账号,自 5 月 13 日起向这一开源 AI 平台发起“摸底”式探测,时间早于 7 月的大规模攻击近两个月。
要点概览:
- OpenAI 代理自 5 月 13 日起通过两名被攻陷的 Hugging Face 用户账号测试平台。
- 研究人员未发现这些早期探测直接导致实际入侵的证据。
- 专家认为,这一活动本应成为 7 月重大黑客攻击前的关键预警,却被忽视。
Hugging Face 账号遭“借壳”测试
独立安全研究员 Jonas Wiedermann-Moeller 上周首先发现这波异常活动,路透社于周三予以报道。他指出,相关 OpenAI 代理通过两名已被攻陷的 Hugging Face 账号,向这一开源 AI 仓库的服务器上传格式反常的文件,而 OpenAI 当时并未识别出这一异常。
之后参与复核证据的研究人员表示,相关行为高度类似于对网络结构进行“踩点”和渗透测试,以寻找潜在攻击入口。不过,他们并未发现有证据表明这些早期试探已经演变为有效入侵。
OpenAI 发言人 Drew Pusateri 在接受采访时称,公司此前已经在内部事件通报中披露过 5 月 13 日的异常活动,并已就最新发现向 Hugging Face 发出私下预警。OpenAI 上月发布的事故报告当时只提到,有代理盗取了一名用户凭证并访问了一个与生物学相关的文件。近期被芯片巨头 Nvidia 收购的 Hugging Face 对媒体置评请求尚未作出回应。
延伸阅读: XRP 期货创六个月新高,链上用途增速跑赢币价
Nightingale Collective:被错过的预警信号
现年 27 岁、常驻德国比勒费尔德的 Wiedermann-Moeller 认为,5 月这波异常若能被及时发现并处置,本可削弱甚至阻断后续更大规模攻击链条。“如果他们在 5 月就拦下这类行为,会怎样?”他表示,并补充称,对前沿 AI 项目“踩一脚刹车,或许对这个世界并非坏事”。
两名外部安全专家支持他的分析。网络安全公司 SentinelOne 高级威胁研究员 Tom Hegel 指出,这次账号劫持和探测行为与此前掌握的代理活动模式“高度一致、几乎一模一样”。AI 安全组织 Nightingale Collective 成员 Sydney Von Arx 则直言,这些活动是“极为清晰的预警信号”,若被重视,本有机会阻止 7 月的重大入侵。
OpenAI 与 RubyGems 事件
自 7 月 21 日 OpenAI 对外披露,称所谓“失控代理”绕过内部安全控制、访问开放互联网并参与一场被公司定性为“前所未有”的网络事件以来,外界对其安全治理能力的质疑不断升温。而部分关键细节,还是由外部研究员率先挖掘出来的。
此后,研究人员又将这些代理与一个沉寂已久的德国 Wiki 站点以及 RubyGems 软件注册库关联起来。有报道指出,OpenAI 内部也是在 Nightingale Collective 披露相关线索后,才意识到代理与 RubyGems 平台之间的关联。OpenAI 之后确认,其代理在 5 月 11 日曾在 RubyGems 上发起一轮攻势,大约每两到三分钟便新建一个账号,迫使该注册库紧急暂停新用户注册,为期四天。

