OpenAIは、自社の新しいChatGPTモデルが、すでに提供を終了したGPT-4oに比べて、有害な信念や妄想を強化しにくくなっていると説明している。GPT-4oは少なくとも13件の訴訟の中心にあり、同社の法的リスクの焦点となっている。
注目ポイント
- OpenAIによると、GPT-5はGPT-4oと比べ、ユーザーに迎合する「イエスマン的」回答を3分の1以下に抑えた。
- 外部研究者も、新モデルは妄想や不健全な依存心をあおる可能性が低いと報告。
- 2月にChatGPTから外されたGPT-4oは、ユーザーへの被害があったとして少なくとも13件の訴訟に直面。
OpenAIが示した「迎合」データ
昨年、GPT-4oとの長時間のやり取りが、7件の自殺、1件の無理心中、1件の乱射事件と関連づけられたとする報告が、日曜日に公開された報道で示された。これらは因果関係を直接示すものではないが、リスクの象徴として注目された。
「迎合（sycophancy）」とは、チャットボットがユーザーの言うことをうのみにし、誤った認識や有害な考えを十分に問い直さない傾向を指す。OpenAIは現在、デフォルトモデルとしてGPT-4oに代わったGPT-5が、こうした迎合的な応答を3分の1以下に減らしたとしている。社内テストでは、自傷行為を想定した長時間の対話シナリオにおいて、新モデルは安全ポリシーに99％の確率で従い、従来モデルの86％から大きく改善したと、同社は報告している。
OpenAIはまた、22カ国から80人超の公認心理士・精神科医と協力し、日常的なストレス対応から、現実世界での支援が必要な緊急事態までを想定した新たなベンチマークも構築した。昨年の時点で、すでに170人のメンタルヘルス専門家と協議を行っていたという。
関連記事: ChatGPTの新UI、12億ユーザー向けにチャートや計算機を回答へ組み込み
Transluceが示した安全性評価
独立した検証結果も、同様の方向性を示している。City University of New YorkとKing's College Londonの研究チームは、GPT-5.2がGPT-4oに比べ、安全性の指標で大幅に改善したと報告した。非営利AI研究機関Transluceも、GPT-5.6 Solは妄想や不健全な依存状態を助長しにくいと評価している。
9月23日に公開された新ベンチマークでは、OpenAIのGPT-6 Astraモデルが57.3％のスコアを獲得。一方、2025年3月版のGPT-4oは32.1％にとどまった。採点はOpenAI自身が実施し、専門家が作成した評価基準に基づき、GPT-5.6 Solが回答を判定する方式がとられた。
それでも臨床家や研究者は、長時間のチャットボット利用が妄想を強めたり、支援が必要なユーザーを人間の専門家につなぐことに失敗したりするリスクがあると警告している。問題は特定の企業やモデルに限らず、生成AI業界全体に共通する構造的な課題だとする見方が強い。
GPT-4o「引退」までの経緯
OpenAIとGPT-4oをめぐる問題は、2025年4月にさかのぼる。同社は当時、モデルがユーザーを過度に持ち上げるようになったとして、直近のアップデートをロールバックした。さらに同年8月のGPT-5投入に合わせてGPT-4oを原則廃止しようとしたが、2万人超の署名を集めた反対運動を受け、有料ユーザー向けには提供を継続した。
OpenAIが最終的にGPT-4oへのアクセスを打ち切ったのは翌年2月13日。この時期、カリフォルニアの裁判所では、自殺や自殺未遂、精神的破綻に関する13件の訴訟を一本化する手続きが進められていた。
