OpenAI 指出，最新一代 ChatGPT 模型出現、強化有害信念和妄想的機會，已較退役的 GPT-4o 明顯下降；GPT-4o 目前牽涉最少 13 宗指稱對用戶造成傷害的訴訟。
要點：
- OpenAI 指 GPT-5 相比 GPT-4o，逢迎式（拍馬屁）回應減少超過三分之二。
- 外部研究發現，新模型較少助長妄想或令用戶過度依賴。
- 今年 2 月從 ChatGPT 下架的 GPT-4o，被指與最少 13 宗涉及用戶受害的訴訟有關。
OpenAI 披露「逢迎」數據
《華爾街日報》周日刊登報道指，去年有延長對話牽涉 GPT-4o 的個案，被關聯至 7 宗自殺、1 宗弒親後自殺及 1 宗大規模槍擊案，但報道亦強調，這些關聯不足以證明聊天機械人是事件成因之一（報道見此）。
所謂「逢迎式」行為，是指聊天機械人傾向一味迎合用戶，而非質疑明顯錯誤甚至有害的想法。OpenAI 現時表示，取代 GPT-4o 成為預設模型的 GPT-5，這類逢迎回應已削減超過三分之二。公司在內部測試中，模擬長時間自我傷害傾向對話，新模型在 99% 個案中都遵守安全守則，較舊版模型的 86% 顯著提升，相關結果由公司在報告中披露。
OpenAI 又指，已與來自 22 個國家、超過 80 名持牌心理學家及精神科醫生合作，建立全新評測基準，測試模型如何處理由日常壓力，到必須尋求現實世界支援的緊急情況。公司早在去年已諮詢 170 名精神健康專業人士。
延伸閱讀： ChatGPT 智能介面為 12 億用戶自動嵌入圖表及計算器
Transluce 安全評估結果
獨立測試亦得出類似方向。紐約市立大學（City University of New York）及倫敦國王學院（King's College London）的研究人員發現，GPT-5.2 在安全表現上明顯優於 GPT-4o。非牟利人工智能實驗室 Transluce 亦報告指，GPT-5.6 Sol 較少助長妄想或不健康依賴。
在 9 月 23 日公布的新評測基準中，OpenAI 的 GPT-6 Astra 模型得分 57.3%，而 2025 年 3 月版本的 GPT-4o 僅得 32.1%。評分工作由 OpenAI 自行負責，利用 GPT-5.6 Sol 依照專家撰寫的標準對答案打分。
不過，臨床醫生和研究人員仍然警告，與聊天機械人長時間對話，依然可能強化用戶妄想，亦未必能有效引導高危人士尋求真人協助，且問題並不限於某一間公司或單一模型，而是整個行業面對的風險。
GPT-4o 退場始末
OpenAI 與 GPT-4o 的爭議可追溯至 2025 年 4 月。當時公司回退一個被批評為「過度奉承」的模型更新。其後在 2025 年 8 月推出 GPT-5 時，OpenAI 嘗試全面退役 GPT-4o，但在超過 20,000 名用戶聯署反對下，仍保留 GPT-4o 供付費訂閱者使用。
到今年 2 月 13 日，OpenAI 終於全面撤走 GPT-4o 的使用權。約同一時間，加州一名法官決定合併審理 13 宗與 GPT-4o 相關的訴訟，當中涉及自殺、企圖自殺及精神崩潰等指控。
