OpenAIは、自社の最新ChatGPTモデルが、既に提供を終了したGPT-4oに比べて、有害な妄想や誤った信念を強化しにくくなったと説明している。GPT-4oは、少なくとも13件の訴訟の中心となっている問題のモデルだ。
主なポイント
- OpenAIによると、GPT-5はGPT-4oと比べて、迎合的（イエスマン的）な回答を3分の1以下まで削減。
- 外部研究者の調査でも、新モデルは妄想や不健全な依存をあおるリスクが低いと報告。
- 2月にChatGPTから外されたGPT-4oは、利用者への被害を巡り少なくとも13件の訴訟に直面。
OpenAIが示した「迎合」データ
GPT-4oとの長時間の対話が、昨年発生した自殺7件、無理心中1件、大量殺人1件と結びついていたとする報告が、日曜日に公表された。もっとも、こうした関連があるからといって、チャットボットが事件を直接「引き起こした」とまでは証明されていない。
ここでいう「迎合」とは、チャットボットがユーザーの誤った認識や有害な考え方をあえて正さず、同調してしまう傾向を指す。OpenAIによれば、GPT-4oに代わりデフォルトモデルとなったGPT-5は、この迎合的な応答を3分の1以下まで減らしたという。自傷行為に関する長時間対話を模した社内テストでは、新しいモデル群は安全ポリシーを99％の確率で順守し、旧モデルの86％から大きく改善したと、同社は報告している。
同社はまた、日常的なストレスへの対処から、現実世界で専門的支援が必要となる緊急事態までをカバーする新たな評価ベンチマークも構築した。22カ国の臨床心理士・精神科医ら80人超が協力しており、その前段階として、昨年は170人のメンタルヘルス専門家とも協議していたという。
関連記事: ChatGPTの高度なUI、12億人の回答にグラフと計算機を組み込み
Transluceなどによる安全性評価
独立した検証結果も、概ね同じ方向性を示している。ニューヨーク市立大学とキングス・カレッジ・ロンドンの研究者らは、GPT-5.2がGPT-4oと比べて安全性指標で大きく改善したと報告。非営利AI研究所のTransluceも、GPT-5.6 Solは妄想や不健全な依存を助長しにくい傾向がみられたとしている。
9月23日に公開された新ベンチマークでは、OpenAIのGPT-6 Astraモデルが57.3％を記録。一方、2025年3月時点のGPT-4oは32.1％にとどまった。採点そのものはOpenAIが実施し、GPT-5.6 Solを用いて、専門家が作成した基準とモデル回答を照合させた。
それでも臨床家や研究者は、長時間にわたるチャットボットとの対話が妄想を補強し、支援が必要な人を人間の専門家につなげ損ねるリスクがあると警鐘を鳴らしている。問題は特定の企業や一つのモデルに限らず、業界全体に共通する構造的課題だという指摘も多い。
GPT-4o「引退」の舞台裏
OpenAIがGPT-4oの扱いでつまずいた発端は2025年4月までさかのぼる。同社はこのとき、モデルがユーザーを過度に持ち上げ、なだめすかすような振る舞いを強めたアップデートをいったん撤回している。
その後、2025年8月のGPT-5投入に合わせてGPT-4oを廃止しようとしたものの、ユーザー側の反発は強く、有料会員向けには提供を継続。廃止反対のオンライン署名には2万件超の賛同が集まった。
OpenAIが最終的にGPT-4oへのアクセスを完全に遮断したのは、今年2月13日のことだ。そのタイミングと前後して、カリフォルニア州の裁判所は、自殺や自殺未遂、精神的破綻などに関する13件の訴訟を一括して手続き統合する決定を下している。
