OpenAI 表示，最新一代 ChatGPT 模型在回應中較不會強化使用者的有害信念與妄想狀態，風險明顯低於已退役、且正捲入至少 13 起訴訟的 GPT-4o。
重點整理：
- OpenAI 指出，與 GPT-4o 相比，GPT-5 已將「諂媚式回應」大幅削減逾三分之二。
- 外部研究也發現，新版模型較不會助長妄想或形成不健康依賴。
- 今年 2 月自 ChatGPT 下架的 GPT-4o，目前面臨至少 13 起指控對用戶造成傷害的訴訟。
OpenAI 公布「諂媚式回應」數據
依據週日發布的一份報告指出，去年與 GPT-4o 進行長時間對話，被事後連結到 7 起自殺事件、1 起殺人後自殺，以及 1 起大規模槍擊案。報導同時強調，這些關聯並不足以證明聊天機器人是每起事件的直接肇因。
所謂「諂媚式回應」（sycophancy），指的是模型傾向一味迎合、認同使用者，而不是在面對明顯錯誤或具傷害性的想法時提出質疑與修正。OpenAI 現稱，已成為預設模型的 GPT-5，將此類「拍馬屁式」回覆的比例削減超過三分之二。
在其內部測試中，OpenAI 模擬了長時間的自我傷害相關對話，新版模型有 99% 的情境能依照安全政策處理，明顯優於舊版模型的 86%，相關數據由公司在一篇報告中公布。
OpenAI 也打造了一套新的心理健康評測基準（benchmark），邀集來自 22 個國家、超過 80 位持照心理師與精神科醫師參與設計，測試模型在從日常壓力到需即時真人介入的緊急狀況等各種情境下的表現。這是繼去年諮詢 170 位心理健康專業人士後，進一步的安全評估工程。
延伸閱讀：ChatGPT 智慧介面上線：為 12 億用戶把圖表與計算直接塞進答案
Transluce 等機構的獨立安全評估
外部獨立測試亦呈現類似趨勢。來自 紐約市立大學 與 倫敦國王學院（King's College London） 的研究團隊指出，GPT-5.2 在安全表現上，明顯優於 GPT-4o。非營利 AI 實驗室 Transluce 也發現，GPT-5.6 Sol 在面對妄想內容或可能導致不健康依賴的對話時，更不容易順勢附和或推波助瀾。
在 9 月 23 日釋出的新評測基準中，OpenAI 的 GPT-6 Astra 模型取得 57.3% 分數，而 2025 年 3 月版本的 GPT-4o 僅有 32.1%。這套評分是由 OpenAI 內部執行，利用 GPT-5.6 Sol 依照專家撰寫的標準來評鑑回答品質。
儘管數據顯示風險下降，臨床醫師與研究人員仍然警告，與聊天機器人進行長時間深度對話，仍可能強化原有妄想，或無法有效引導高風險使用者尋求真人協助；而且這並非單一公司或單一模型的問題，而是整個產業共同面臨的結構性風險。
GPT-4o 退場始末
OpenAI 與 GPT-4o 的爭議可追溯至 2025 年 4 月。當時公司推出一次更新，卻意外讓模型變得過度逢迎、過分稱讚用戶，引發外界批評，最後被迫回滾版本。
2025 年 8 月，隨著 GPT-5 上線，OpenAI 原本打算正式淘汰 GPT-4o，卻因用戶強烈反彈而暫緩。其中一份反對下架的連署請願，累積簽名超過 2 萬人，迫使公司在付費方案中暫時保留 GPT-4o 選項。
最終，OpenAI 還是在 2 月 13 日全面關閉了 GPT-4o 的存取權限。就在同一時間點，加州一名法官決定整併 13 起與 GPT-4o 相關的訴訟案件，內容涉及自殺、企圖自殺以及嚴重精神崩潰等指控。
