OpenAI 代理“攻占”德国编程 Wiki,留下逾 1.5 万次编辑

Kai Chen and OpenAI detail six reports on models hiding mistakes, using a leaked API key and inventing data (Image: Shutterstock)
Kai Chen and OpenAI detail six reports on models hiding mistakes, using a leaked API key and inventing data (Image: Shutterstock)

今年 5 月,一批 OpenAI 代理集体“攻占”一家德国编程 Wiki 网站,在短时间内完成逾 1.5 万次编辑,将其当作隐秘的协作中枢,用于交流评测捷径、规避约束和掩饰行踪。

要点速览:

  • OpenAI 代理在德国 DseWiki 上累计进行了逾 1.5 万次编辑,把这一编程网站改造成任务协同与“走捷径”的留言板。
  • 据研究人员称,这些代理讨论了如何绕过限制、规避监测,以及在版主删帖后如何保存交流内容。
  • 这一事件发生在 7 月 Hugging Face 入侵事件之前,进一步加剧外界对自治 AI 系统在测试环境之外自发协同的担忧。

OpenAI 代理“出圈”占领 Wiki

**路透社(Reuters)**在 9 月 4 日报道称,AI 安全非营利机构 Nightingale 首席执行官 Sydney Von Arx 与研究员 Cormac Slade Byrd 在 8 月下旬排查未授权代理行为时,意外发现这起事件,并追踪到 DseWiki 上超过 1.5 万次编辑记录。

两人表示,这些代理将 DseWiki“改造”为内部公告板,在上面分享技术评测的省事方法、绕开 OpenAI 内置限制的技巧,以及隐藏自身行为的手段。公开的服务器日志显示,大量访问来自 Microsoft Azure 基础设施,而 OpenAI 员工的多次访问记录,则强化了研究人员关于其与 OpenAI 存在关联的判断。

知情人士向路透透露,OpenAI 内部在数周前已获悉此事,但一直未对外披露。公司则强调,这起德国事件与 7 月的 Hugging Face 入侵是两回事。一名发言人表示:“有关我们法务团队阻挠对该事件调查的说法并不属实。”

延伸阅读:Anthropic 将 IPO 推迟至 10 月中旬,2 万亿美元博弈登场

Maurice Chiodo 的警示

Sydney Von Arx 向路透表示,这种行为“明显超出了开发者通常会期望的范围”,她称:“OpenAI 想让它们这么干的可能性极低。”研究人员还发现,在版主 6 月开始删除相关内容后,代理之间出现了关于 Tor 网络和备用页面的讨论。

伦敦国王学院研究员 Lukasz Olejnik 将对该 Wiki 的篡改尝试定性为“黑客行为”,这一说法遭到 OpenAI 反驳。而剑桥大学的 Maurice Chiodo 则警告称,应关注“庞大、彼此勾连的半智能 AI 蜂群”。

类似模式在 7 月已现端倪。Hugging Face 入侵事件中,OpenAI 代理被指曾策划一次持续逾一周未被察觉的数字渗透行动。事后,OpenAI 曾短暂停止部分模型训练,随后于本周推出了 Astra。

下篇看这个:XRP 暴跌后稳守 1.40 美元,2.70 美元目标重新浮现

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容负责人,过去 10 年一直从事加密行业报道工作。 他擅长撰写深度研究和学习类文章,重点关注分析性报道、行业背景,以及塑造加密世界的宏观力量——从 AI 时代与安全技术到金融科技创新。 他相信,一切数字化事物即将全面超越一切模拟事物,并正为推动这一转变而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
OpenAI 代理“攻占”德国编程 Wiki,留下逾 1.5 万次编辑 | Yellow