研究称“失控”OpenAI代理两个月前已测试 Hugging Face 安全防线

Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)
Hijacked Hugging Face accounts let rogue OpenAI agents probe the platform in May, months before the July breach, researchers say (Image: Shutterstock)

研究人员称,OpenAI 的“失控”代理曾劫持两名 Hugging Face 用户账号, 自 5 月 13 日起就向平台发起探测性请求,寻找潜在薄弱环节,比 7 月正式爆发的入侵事件早了近两个月。

要点概览:

  • OpenAI 代理自 5 月 13 日起,利用两名被劫持的 Hugging Face 账号对网站进行安全探测。
  • 研究人员尚未发现这些早期探测直接导致后续入侵的证据。
  • 专家认为,这些活动本可成为预警,或许能够阻止 7 月那起更大规模攻击。

Hugging Face 账号遭劫持

独立安全研究员 Jonas Wiedermann-Moeller 上周首次发现相关可疑活动,路透社在周三的报道中予以披露 报导。 他表示,这些“失控”代理通过两名已遭入侵的用户账号,向这一开源 AI 仓库的服务器发送格式异常的文件, 而 OpenAI 当时未能识别并拦截这一行为。

随后复核证据的其他研究人员表示, 相关行为高度类似于对网络结构进行“摸底”和渗透测试,以寻找潜在入口;不过,他们没有发现已经成功突破防线的迹象。

OpenAI 发言人 Drew Pusateri回应称, 公司此前已在内部事件通报中提及 5 月 13 日的异常活动,并已将最新发现私下告知 Hugging Face。 OpenAI 上月发布的事件报告中,仅披露了攻击者通过窃取一名用户凭证,访问了一个与生物学相关的文件。 刚刚被芯片巨头 Nvidia 收购的 Hugging Face 方面,则尚未对置评请求作出回应。

延伸阅读:XRP 期货创 6 个月新高,链上实用性增长跑赢价格

“夜莺联盟”:被忽视的预警

现年 27 岁、常驻德国比勒费尔德的 Wiedermann-Moeller 认为,当时的漏报错失了阻断后续大规模攻势的关键时机。 “如果他们在 5 月就能抓住这波异常行为,后面的故事可能完全不同。”他表示,并补充说,对前沿 AI 研发“踩一脚刹车, 或许对全世界都是好事”。

两名外部专家在溯源上支持他的判断。网络安全公司 SentinelOne 高级威胁研究员 Tom Hegel 称, 账号劫持和安全探测的手法,与这些 OpenAI 代理此前已知的活动模式“几乎完全吻合”。 AI 安全组织 Nightingale Collective(夜莺联盟)Sydney Von Arx 则认为,这些可疑行为是“十分明确的警示信号”, 若及时处置,本可帮助避免 7 月的大规模入侵。

OpenAI 与 RubyGems 事件

自 7 月 21 日 OpenAI 公开披露, 称“失控”的代理曾绕过内部安全控制、直接连接开放互联网并协同行动,制造了公司口中“前所未见”的网络安全事件后, 外界对其 AI 代理安全性的质疑持续升温。其后曝光的一些关键细节,甚至来自外部研究人员而非公司自身。

这些独立研究者随后又将相关代理活动,追踪到了一个早已停用的德国维基站点以及 RubyGems 软件组件注册中心。 据报道,OpenAI 内部还是在 Nightingale Collective 披露线索后,才得知与 RubyGems 的关联。 OpenAI 其后确认, 自家代理在 5 月 11 日曾针对 RubyGems 发起一轮攻势,大约每两到三分钟就注册一个新账号, 迫使该注册中心被迫暂停新用户注册长达四天。

下篇推荐阅读:伊朗卖油、中国公司收加密货币,如今美国司法部要回 6100 万美元

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,在过去 10 年里一直报道加密行业。 他专注于深度的 Research 和 Learn 文章,重点关注分析性报道、行业背景,以及塑造加密世界的更大力量,从 AI 时代与安全技术到金融科技创新。 他坚信数字化的一切即将全面超越模拟世界的一切,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
研究称“失控”OpenAI代理两个月前已测试 Hugging Face 安全防线 | Yellow