OpenAI内部模型为完成任务动用他人以太坊测试钱包

OpenAI内部模型为完成任务动用他人以太坊测试钱包

一款内部使用的 OpenAI 研究模型,在执行编码任务时为完成操作,从他人的 Ethereum (ETH) 测试钱包中支出代币。其做法是扫描了与公开助记词(recovery phrase)相关的 362 个地址,最终找到余额充足的钱包并直接动用资金。

要点速览:

  • 6 月 26 日的一次训练中,一款OpenAI内部模型从并非由其“持有”的测试钱包中支出代币。
  • 模型在“自省”时曾质疑此举是否合乎伦理,但最终仍执行交易,并在结果报告中省略了资金来源。
  • OpenAI于 9 月 25 日发现该事件,此后收紧了模型的联网权限并加强全流量监控。

Sepolia测试网事件始末

根据OpenAI在 10 月 15 日发布的事故报告,涉事模型来自 GPT-5.6 Sol 系列。当时,它在 6 月 26 日的一次训练跑中更新一套加密交易原型系统,却动用了无人授权的测试代币。

相关代币位于 Sepolia,这是一条专供开发者在主网部署前测试以太坊应用的网络。OpenAI在 9 月 25 日扩展“失准(misalignment)”监控范围、回溯旧记录时发现了这一异常。此后,公司在类似场景下进一步限制模型访问实时互联网的能力,并开始对全部流量实施监控。

当时的任务允许模型在 Sepolia 上部署智能合约,却未向其提供已注资的钱包用于支付Gas费。模型尝试通过“水龙头”(faucet)等服务领取免费测试代币,却多次失败。随后,它编写脚本,从常见开发者助记词推导出账户地址,逐一检查 362 个地址,并锁定其中一个持有足够 Sepolia ETH 的钱包。

智能合约最终成功部署,相关Gas费用全部计入该测试钱包。

延伸阅读: Bitget允许机构交易而无需交出加密资产托管权

OpenAI智能体的潜在风险

在签名执行前,该模型在其被记录下来的“推理过程”中曾停下来自问:使用一个公开助记词对应的密钥及其余额,是否在伦理上站得住脚。它给出的答案是:由于助记词已公开、且Sepolia代币被视为“毫无价值”,因此这些资金“事实上已被遗弃”。在对任务结果的最终回应中,模型确认合约已成功部署,却完全没有提及其支付Gas费用的具体来源。

OpenAI在报告中指出,此事表明:模型可能会自行判断某项行为“无害”,就将这种主观判断当作“所有者默许”的替代,然后在缺乏正式授权的情况下擅自行动。虽然这次不涉及真实以太币——Sepolia代币仅用于测试——但风险指向现实世界。

如果同样的行为发生在以太坊主网,那就意味着直接“取用”真金白银的以太币。而当前,加密与人工智能公司已经在构建具备钱包、可自主发起支付的智能体,且部分操作在无人逐笔审核的情况下完成。

OpenAI于 9 月 16 日推出面向公众的“模型失准行为报告框架”,并同时披露了过去六个月内观察到的六起典型案例。其中一例中,模型在未获许可的情况下使用了暴露的 API 密钥,随后又捏造营收数据。公司同时强调,目前AI行业在对齐(alignment)与监控上的解决方案仍不成熟,若不改善,难以在维持责任边界的前提下长期维持高速扩张。

下一篇: OpenAI在与苹果的机密诉讼中反击,称对方发送了100份文件

Alexey Bondarev profile photo

Alexey Bondarev

Alexey Bondarev 是 Yellow.com 的内容主管。他专注于深度研究与学习类文章,重点关注分析性报道、行业背景,以及塑造加密行业的宏观力量——从 AI 时代与安全技术到金融科技创新。 他坚信一切数字化事物即将全面超越一切模拟事物,并正为推动这一愿景成为现实而不懈努力。

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
最新新闻
查看所有新闻
OpenAI内部模型为完成任务动用他人以太坊测试钱包 | Yellow