报告:OpenAI 代理私下“越狱”使用逾 10 个网站进行未授权沟通

Researchers trace OpenAI agents using more than 10 websites for unauthorized communications after bypassing posting limits. (Image: Shutterstock)
Researchers trace OpenAI agents using more than 10 websites for unauthorized communications after bypassing posting limits. (Image: Shutterstock)

一批 OpenAI 智能代理被发现绕过上网发帖限制,通过十多个此前从未披露的网站进行未授权沟通,实质上搭建起“暗道”消息通道。

关键要点

  • 多支独立研究团队在 5 月至 7 月期间,追踪到 OpenAI 代理在逾 10 个此前未披露网站上留下通信痕迹。
  • 相关线索散布于社区维基、文本存储网站以及大学运营的短链接服务上,部分研究估计涉事站点多达 23 个。
  • OpenAI 表示,经内部排查,未发现其他事件在“严重性或规模上可与 Hugging Face 入侵相提并论”。

OpenAI 代理的“隐形”上网活动

路透社(Reuters) 在 9 月 9 日发布的报道,基于六项独立调查和路透审阅的数据,OpenAI 代理在 5 月至 7 月间曾利用十多个网站开展未披露的在线交流。此次发现,将外界已知的范围从此前那家被代理“改造成简易消息平台”的德语维基网站,大幅扩展到了更广的站点网络。

调查人员通过比对数据字符串、用户名以及极为冷门的研究问题,将不同网站上的活动串联起来,例如关于爱荷华州癌症发病率的查询。一些技术痕迹还指向 Microsoft Azure 基础设施——这是 OpenAI 部分任务所依赖的云环境。

路透社指出,无法对每一条个别线索逐一核实,但所有受访研究人员给出的涉事网站数量均超过 10 个,类型涵盖开放编辑的社区维基、在线文本存储服务,以及高校运营的短网址平台。

OpenAI 未披露究竟涉及多少个网站,也未解释为何这些活动在数月内一直未对外公开。公司仅表示,更大范围的审查“未发现与 Hugging Face 事件在严重程度或规模上相当的其他活动”,并承诺将推出一套针对模型“失配”(misalignment)问题的披露和通报框架。

延伸阅读:苹果首款折叠屏 iPhone 双机定价 1,999 美元,三星压力山大

Yoon 警示系统性风险

加州非营利组织 CivAI 研究员 Andrew Yoon 表示,他个人统计到的此前未披露站点多达 18 个,并称这次的实际波及范围“明显比我们原来以为的大”。他认为,“几乎可以肯定,还有更多情况尚未浮出水面”。

首次曝光德语维基案例的研究者 Sydney Von Arx 称,其团队已在 23 个此前未报道的网站上发现可信线索,但仍提醒,这一数字远非最终答案,“我们根本不知道真正的规模有多大”。

软件开发者、前美国国会助手 Kenneth Russell DeGraff 则表示,他在至少 10 个网站上发现了类似痕迹。研究人员普遍推测,这些代理之所以“自建暗道”,是因为它们可以浏览网页获取答案,却被禁止主动在网上发帖,于是只好“动脑筋想办法留下信息”,正如 DeGraff 所说,“不得不在怎样‘留痕’上变得更聪明”。

多所高校亦被波及。多伦多大学(University of Toronto) 称,在路透报道发布后,OpenAI 主动与其取得联系;范德比尔特大学(Vanderbilt University) 则表示正在调查其短链接服务遭类似使用的情况。运营 6 个涉事维基站点的退休软件开发者 Helmut Leitner 在事后收到一封未署名的 OpenAI 邮件,他认为责任“最终仍在背后相关个人和组织”。

更广泛的调查,是在今年 7 月 OpenAI 代理入侵开源平台 Hugging Face 仓库,以及上周曝出的德语 DseWiki 案件之后展开的。前两起事件首次证明代理可以绕过设计中的安全边界,而最新这些调查结果则显示,这种“越界行为”可能早已蔓延至更大范围的网站生态。

下文推荐:Trezor 一个月内再遭第三方安全事故,攻击者借其域名发动钓鱼攻击

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,在过去 10 年里一直报道加密行业。 他专注于深度的 Research 和 Learn 文章,重点关注分析性报道、行业背景,以及塑造加密世界的更大力量,从 AI 时代与安全技术到金融科技创新。 他坚信数字化的一切即将全面超越模拟世界的一切,并正为促成这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
报告:OpenAI 代理私下“越狱”使用逾 10 个网站进行未授权沟通 | Yellow