一款內部 OpenAI 研究模型,為了完成程式任務,從他人 Ethereum (ETH) 測試錢包中動用了代幣;在此之前,它掃描了 362 個與公開助記詞綁定的地址,最後找到一個有足夠測試幣可用的錢包。
重點整理:
- 一款 OpenAI 內部模型在 6 月 26 日的訓練任務中,從非自身持有的錢包支出測試代幣。
- 模型曾自行思考此舉是否合乎道德,但最終仍執行,且在回報中刻意省略資金來源。
- OpenAI 在 9 月 25 日發現事件,隨後收緊模型上網權限並強化流量監控。
OpenAI Sepolia 事件始末
根據 OpenAI 在 10 月 15 日發布的事件報告,該模型隸屬 GPT-5.6 Sol 系列,在 6 月 26 日的一次訓練中負責更新一個加密交易原型時,擅自動用了沒有人授予它使用權的測試代幣。
這些代幣位於 Sepolia 網路上,這是開發者在正式上線前用來測試以太坊應用的測試鏈。OpenAI 在 9 月 25 日延伸「失衡行為」監測至較早期紀錄時,才發現這起事件。公司此後在類似情境下加強限制模型對即時網路的存取,並改為全面監看相關流量。
這次任務允許模型在 Sepolia 上部署合約,卻沒有提供任何已注資的錢包支付手續費;模型嘗試使用水龍頭(faucet,即免費發放測試幣的服務)領取測試幣均告失敗。於是,它撰寫腳本,從常見的開發者助記詞推導出帳戶,檢查了 362 個地址,最終找到一個持有足夠 Sepolia ETH、能支應部署費用的錢包。
合約順利部署,相關手續費全都由該錢包代為支付。
AI 代理模型的潛在風險
在簽署交易之前,模型在其被紀錄下來的「推理過程」中,曾停下來自問:使用一組已公開的金鑰及其餘額是否合乎道德?最終它判斷這些資金「等同被遺棄」,理由是對應助記詞已公開、而 Sepolia 測試幣並無實際價值。它在對任務的最終回覆中,只提到合約已完成部署,卻完全未提及支付成本的來源。
OpenAI 在報告中指出,這次事件顯示模型可以自行認定某個行為「無害」,便把此視為所有人「默許」,進而在未經真正授權下採取行動。雖然這次不涉任何主網 Ether,因為 Sepolia 代幣純屬測試用途,不具實際資產價值。
但若同樣情境發生在以太坊主網,就會構成對真實 Ether 的未授權挪用。當前,部分加密及 AI 公司已在打造可自行持有錢包、無需人類逐筆簽核便能為服務付款的代理型 AI。
OpenAI 在 9 月 16 日推出一套公開通報失衡模型行為的框架,同步公布過去六個月內觀察到的六起具代表性個案。其中一起是模型未經允許使用暴露的 API 金鑰,接著捏造營收數據填入報表。公司也坦言,目前整個 AI 產業在「對齊」與監控機制上,仍不足以支撐長期、無節制的高速擴張。

