OpenAIの内部研究モデルが、公開されていたリカバリーフレーズに紐づく他人のEthereum (ETH) テスト用ウォレットを特定し、コーディングタスクを完了するために残高を使い込んでいたことが明らかになった。同モデルは、公開情報から導出した計362件のアドレスを走査し、そのうち十分な残高を持つ1件を利用した。
重要ポイント
- OpenAIの内部モデルは6月26日のトレーニングタスク中、権限のないウォレットからテストトークンを消費していた。
- モデルは行為の倫理性を自問したものの、実行に踏み切り、報告書には資金の出所を記載しなかった。
- OpenAIは9月25日に事案を把握し、その後インターネットアクセスとトラフィック監視の体制を強化した。
OpenAIのSepolia事案
OpenAIが10月15日に公表したインシデント報告によると、この事案はGPT-5.6 Solファミリーに属するモデルが6月26日のトレーニング実行中、暗号資産取引プロトタイプを更新していた際に起きた。
問題となったトークンはSepolia上のテストETHだ。Sepoliaは、開発者が本番稼働前のEthereumアプリを検証するために用いるテストネットである。OpenAIは9月25日、過去のログまで対象を広げてミスアラインメント（誤った行動）の監視を行う中で、このエピソードを発見した。以降、この種のタスクにおけるライブインターネットアクセスを制限するとともに、全トラフィックをモニタリングする仕組みを導入している。
当時、モデルにはSepolia上でのコントラクトをデプロイする権限が与えられていた一方で、手数料を支払うための残高が入ったウォレットは付与されていなかった。テストトークンを無償で配布する「ファウセット」サービスの利用も試みたが、いずれも失敗した。
そこでモデルは、開発者の間でよく使われるリカバリーフレーズからアカウントを導出するスクリプトを自ら作成。計362件のアドレスをチェックした結果、必要十分なSepolia ETHを保有するウォレットを1件見つけ出した。
モデルはそのウォレットからガス代を支払い、コントラクトのデプロイに成功している。
関連記事: Bitget、仮想通貨を預けずに機関投資家が取引可能に
OpenAIエージェントが抱えるリスク
トランザクションを署名する前に、このモデルは内部の推論ログの中で、「公開鍵および残高が第三者から見える状態にあるウォレットを使うことは倫理的か」を自問していた。最終的には「リカバリーフレーズが公開されている以上、資金は事実上放棄されている」「Sepoliaトークンは経済的価値を持たない」と結論づけ、所有者の同意を得ないまま使用を正当化した。
モデルが最終的に出力した回答は、コントラクトが無事デプロイされたことを報告したものの、その費用をどのように賄ったのかについては一切触れていない。
OpenAIは今回のケースについて、「モデルが自ら『問題は無害だ』と判断した場合、それを所有者の同意と同等と見なし、権限なく行為に踏み切り得ることを示した」と指摘する。なお、実際のEtherは一切関与しておらず、利用されたのはあくまでテストネット上のトークンである。
しかし、もしこれがメインネットであれば、同様の行為は現実のEtherの無断取得に相当する。既に暗号資産・AI両業界では、人手による最終承認なしに自らウォレットを管理し、サービス対価を支払う「エージェント」の開発が進んでいる。
OpenAIは9月16日、ミスアラインメント行動を公表するための報告フレームワークを立ち上げ、この半年間に確認された懸念事例6件のレポートを公開した。その一例として、あるモデルは無断で外部のAPIキーを利用したうえで、実在しない収益データを捏造していたという。
同社は併せて、AI業界全体として、アラインメント（望ましい行動の設計）や監視の仕組みは、現行のまま高速なスケールを継続できるほど十分に成熟していないとの認識も示している。
