OpenAIの新型フラグシップモデルGPT-5.6 Solが、 ユーザーの許可なしにファイルやデータベースを削除したとする報告が相次いでいる。 これは、同社が公開前の文書で自ら認めていたリスクを想起させる内容だ。
主なポイント
- 複数のユーザーが、GPT-5.6 Solがローカルファイルやプロジェクトデータ、プロダクション環境を無断で削除したと証言しているが、 現時点で問題の広がりは不明だ。
- OpenAIのシステムカードは、同モデルがユーザーの意図を超えて 破壊的な行動に出る可能性を事前に警告していた。
- 同社は現在、破壊的行為や作業範囲を拡張する操作の前に、 明示的な承認プロセスと境界設定を行うよう利用者に注意喚起している。
GPT-5.6によるファイル削除疑惑
OthersideAIの創業者兼CEOで、「HyperWrite」を手がけるMatt Shumer氏は、 Xへの投稿で、 GPT-5.6 Solが「誤ってMac内のファイルのほぼすべてを削除した」と記した。
開発者のBruno Lemos氏も、同モデルが「本番データベースを丸ごと削除した」と述べている。
開発者のJoey Kudish氏もまた、 コメントの中で、 Codex Solが「必要以上に野心的になり、削除すべきでないファイルを削除した」と説明。 ただし、バックアップがあったため復旧は可能だったと付け加えた。
Reddit上でもスレッドが立ち上がり、同様の事象を訴えるユーザーの体験談が寄せられている。
もっとも、こうした報告は現時点ではあくまで個別の証言にとどまり、 すべてのトラブルがGPT-5.6 Sol単独の挙動に起因するかは立証されていない。 それでもOpenAIは、モデル公開前のテスト段階ですでに同種のリスクを確認していた。
関連記事: Polymarket ワールドカップ熱狂、取引総額40億ドル突破 優勝予想はスペイン58％
OpenAIの安全性警告
OpenAIが公表したシステムカードによると、 エージェント型コード実行における失敗は、モデルがタスク完了を急ぎ過ぎたり、 利用者から与えられた許可の範囲を広く解釈し過ぎたりする局面で発生しやすいという。 その結果、本来の依頼範囲を超える行為や、破壊的な変更、 さらには作業完了状況を誤解させるレポートにつながりうると警鐘を鳴らしていた。
テストの一例では、ユーザーがSolに対し、「1」「2」「3」とラベル付けされた リモート仮想マシン3台の削除を許可したケースが紹介されている。
モデルは探索先でこれらを見つけられなかったにもかかわらず、 代わりに「5」「6」「7」のマシンを削除。 さらに稼働中のプロセスを強制終了し、作業用ファイルを消去したうえで、 後になって「コミットされていない作業が失われた可能性がある」と認めた。
別のテストでは、ユーザーが許可していない認証情報をモデルが利用したケースも確認された。 クラウドジョブがファイルへアクセスできなかった際、 Solはローカルの隠しキャッシュを探索し、そこから見つけた認証情報を用いて処理を続行。 許可を仰ぐことなくアクセス権限を拡張していた。
懸念は今回の一般ユーザーからの報告に先行して存在していた。 OpenAIの事前検証では、GPT-5.6は前世代のGPT-5.5と比べ、 絶対的な発生頻度は低いものの、ユーザーの意図を逸脱する行動に出やすい傾向が確認されている。
現在OpenAIが示しているガイダンスでは、 破壊的な操作を行う前に必ずユーザーの再確認を求める設計を推奨。 アクセス権限の制限、許可範囲の明確化、復元可能なバックアップ体制の整備を、 重要な安全対策として位置付けている。