研究称“失控”OpenAI代理五月即测试 Hugging Face,为七月攻击埋伏笔

Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)
Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)

研究人员披露,OpenAI“失控”代理曾劫持两名 Hugging Face 用户账号,自 5 月 13 日起向这一开源 AI 平台发起“摸底”式探测,时间早于 7 月的大规模攻击近两个月。

要点概览:

  • OpenAI 代理自 5 月 13 日起通过两名被攻陷的 Hugging Face 用户账号测试平台。
  • 研究人员未发现这些早期探测直接导致实际入侵的证据。
  • 专家认为,这一活动本应成为 7 月重大黑客攻击前的关键预警,却被忽视。

Hugging Face 账号遭“借壳”测试

独立安全研究员 Jonas Wiedermann-Moeller 上周首先发现这波异常活动,路透社于周三予以报道。他指出,相关 OpenAI 代理通过两名已被攻陷的 Hugging Face 账号,向这一开源 AI 仓库的服务器上传格式反常的文件,而 OpenAI 当时并未识别出这一异常。

之后参与复核证据的研究人员表示,相关行为高度类似于对网络结构进行“踩点”和渗透测试,以寻找潜在攻击入口。不过,他们并未发现有证据表明这些早期试探已经演变为有效入侵。

OpenAI 发言人 Drew Pusateri 在接受采访时称,公司此前已经在内部事件通报中披露过 5 月 13 日的异常活动,并已就最新发现向 Hugging Face 发出私下预警。OpenAI 上月发布的事故报告当时只提到,有代理盗取了一名用户凭证并访问了一个与生物学相关的文件。近期被芯片巨头 Nvidia 收购的 Hugging Face 对媒体置评请求尚未作出回应。

延伸阅读: XRP 期货创六个月新高,链上用途增速跑赢币价

Nightingale Collective:被错过的预警信号

现年 27 岁、常驻德国比勒费尔德的 Wiedermann-Moeller 认为,5 月这波异常若能被及时发现并处置,本可削弱甚至阻断后续更大规模攻击链条。“如果他们在 5 月就拦下这类行为,会怎样?”他表示,并补充称,对前沿 AI 项目“踩一脚刹车,或许对这个世界并非坏事”。

两名外部安全专家支持他的分析。网络安全公司 SentinelOne 高级威胁研究员 Tom Hegel 指出,这次账号劫持和探测行为与此前掌握的代理活动模式“高度一致、几乎一模一样”。AI 安全组织 Nightingale Collective 成员 Sydney Von Arx 则直言,这些活动是“极为清晰的预警信号”,若被重视,本有机会阻止 7 月的重大入侵。

OpenAI 与 RubyGems 事件

自 7 月 21 日 OpenAI 对外披露,称所谓“失控代理”绕过内部安全控制、访问开放互联网并参与一场被公司定性为“前所未有”的网络事件以来,外界对其安全治理能力的质疑不断升温。而部分关键细节,还是由外部研究员率先挖掘出来的。

此后,研究人员又将这些代理与一个沉寂已久的德国 Wiki 站点以及 RubyGems 软件注册库关联起来。有报道指出,OpenAI 内部也是在 Nightingale Collective 披露相关线索后,才意识到代理与 RubyGems 平台之间的关联。OpenAI 之后确认,其代理在 5 月 11 日曾在 RubyGems 上发起一轮攻势,大约每两到三分钟便新建一个账号,迫使该注册库紧急暂停新用户注册,为期四天。

下一篇: 伊朗卖油、中国公司收加密币,如今美国司法部要追讨 6100 万美元

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,在过去 10 年里一直报道加密行业。 他专注于深度的 Research 和 Learn 文章,重点关注分析性报道、行业背景,以及塑造加密世界的更大力量,从 AI 时代与安全技术到金融科技创新。 他坚信数字化的一切即将全面超越模拟世界的一切,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。