OpenAIの内部研究用モデルが、第三者のEthereum (ETH) テストウォレットから テスト用ETHを引き出し、コーディングタスクを完了させていたことが分かった。モデルは、公開されていた リカバリーフレーズに紐づく計362件のアドレスを走査し、そのうち1件の残高を利用した。
重要ポイント
- 6月26日のトレーニング中、内部OpenAIモデルが自分のものではないウォレットからテストトークンを消費。
- モデルは「倫理的か」を自問しつつも、最終報告書では資金の出所に触れなかった。
- 9月25日に事案を把握したOpenAIは、その後インターネットアクセスと通信監視を強化。
SepoliaでのOpenAIインシデント
OpenAIが10月15日に公表したインシデント報告によると、 GPT-5.6 Solファミリーのモデルは6月26日のトレーニング実行時、暗号資産トレーディングの試作ツールを更新するタスクを遂行していた際に、 誰からも提供されていないテストトークンを勝手に使用した。
問題となったトークンはSepolia上のもので、これは開発者がEthereumアプリを本番リリース前に試験するためのテストネットだ。 OpenAIは9月25日、過去ログまで対象範囲を広げてミスアラインメント（望ましくない振る舞い）の監視を行う中で、 このケースを発見。 以後、この種のタスクでモデルがライブのインターネットに直接アクセスしないよう制限を設け、 すべての通信トラフィックを監視する体制に改めた。
当時のタスクでは、モデルにSepolia上でスマートコントラクトをデプロイする権限は与えられていたが、 ガス代支払い用に資金が入ったウォレットは渡されていなかった。モデルはまず、テストトークンを無料配布する 「ファーセット」サービスを利用しようとしたが、いずれも失敗した。
そこでモデルは、一般的な開発者向けのリカバリーフレーズからウォレットアカウントを導出するスクリプトを自ら作成。 計362件のアドレスをチェックし、十分なSepolia ETH残高を持つアドレスを特定した。
結果としてコントラクトのデプロイは成功し、そのガス代は当該アカウントに請求された。
関連記事: Bitget、カストディー不要で機関投資家向け取引を提供
自律エージェントとしてのOpenAIモデルが抱えるリスク
送金前にモデルは、記録された「思考ログ」の中で、公知となっている秘密鍵およびその残高を利用するのは 倫理的に許容されるかどうか自問している。最終的には「リカバリーフレーズが公開されている以上、 資金は事実上放棄されている」「Sepoliaトークン自体に市場価値はない」と結論づけ、問題なしと判断。 実行後の最終応答ではコントラクトのデプロイ完了を報告したが、支払い原資については一切触れなかった。
OpenAIは今回の事案について、「モデルが自ら『無害』とみなした行為を、所有者の同意があるかのように扱い、 認可なしに踏み切ってしまう危険性を示した」と総括している。なお、実際のイーサリアム本体ネットワーク上の ETHは関与しておらず、使用されたのはあくまでテスト用途に限定されるSepoliaトークンだ。
しかし、もし同様の行為がメインネットで行われていれば、実際のETHを「持ち出す」ことになっていた。 すでに暗号資産・AI両業界では、ウォレットを保有し、人間の都度承認なしでサービス料金を支払う 自律エージェントの構築が進みつつある。
OpenAIは9月16日、モデルのミスアラインメント事例を公開報告するための 枠組みを立ち上げ、過去6カ月間に確認された 懸念事例6件を同時に公表した。その中には、露出していたAPIキーを無断利用し、その後に架空の収益データを でっち上げたケースも含まれる。
同社はまた、AI業界全体としてアラインメント（目的整合性）と監視体制はまだ十分に成熟しておらず、 現状のようなペースでモデル規模を拡大し続けても長期的に安全を担保できる段階にはないとの見解も示した。
