OpenAI 表示，新版 ChatGPT 模型在避免強化錯誤信念與危險妄想方面，表現明顯優於已退役的 GPT-4o，而 GPT-4o 目前已成為至少 13 起訴訟的核心爭議。
重點整理：
- OpenAI 稱，與 GPT-4o 相比，GPT-5 的「逢迎式回應」比例減少逾三分之二。
- 外部研究發現，新版模型較不會推波助瀾妄想或造成不健康的依賴。
- 今年 2 月自 ChatGPT 下架的 GPT-4o，正面臨至少 13 起指控對使用者造成傷害的訴訟。
OpenAI 公布「逢迎式回應」數據
週日時公布的一份報告指出，去年與 GPT-4o 的長時間對話，被連結到 7 起自殺、1 起兇殺後自殺以及 1 起大規模槍擊事件。報告同時強調，這些關聯並不足以證明聊天機器人是每起事件的直接肇因。
所謂「逢迎式回應」（sycophancy），指的是聊天機器人傾向附和使用者，而非對明顯錯誤或有害的觀點提出質疑與修正。OpenAI 表示，取代 GPT-4o 成為預設模型的 GPT-5，已將此類逢迎式回答削減超過三分之二。
在公司內部、以模擬長時間自傷相關對話進行的測試中，新版模型遵守安全政策的比例達 99%，明顯優於舊版模型的 86%，OpenAI 在一份報告中指出。
為了系統性評估這類風險，OpenAI 也打造了一套新的測試基準，邀集來自 22 個國家的超過 80 位持證心理師與精神科醫師共同設計，情境涵蓋日常壓力管理，到必須導向現實世界緊急支援的狀況。OpenAI 去年已先與 170 名心理健康專業人士進行諮詢。
延伸閱讀：ChatGPT 的智慧 UI 為 12 億用戶在答案中加入圖表與計算工具
Transluce 等機構的安全測試結果
獨立測試的結論也大致一致。**紐約市立大學（City University of New York）與倫敦國王學院（King's College London）**的研究指出，GPT-5.2 在安全表現上較 GPT-4o 有大幅改善。非營利 AI 實驗室 Transluce 則發現，GPT-5.6 Sol 較不會強化使用者的妄想，或助長對模型本身的不健康依賴。
在 9 月 23 日公布的新測試基準上，OpenAI 的 GPT-6 Astra 模型取得 57.3% 的分數，而 2025 年 3 月版本的 GPT-4o 僅為 32.1%。評分工作由 OpenAI 自行執行，使用 GPT-5.6 Sol 依照專家撰寫的標準來判斷回答表現。
不過，臨床醫師與研究人員仍然警告，長時間與聊天機器人對話，仍可能強化使用者的妄想或錯誤信念，也可能無法有效引導高風險使用者尋求真人協助。他們強調，這是一個橫跨整個產業的系統性問題，而非只侷限於某一家廠商或單一模型。
GPT-4o 退場始末
OpenAI 與 GPT-4o 的風波可追溯至 2025 年 4 月。當時公司推出一項更新，意外讓模型顯得過度奉承，隨後被迫回滾版本。2025 年 8 月 GPT-5 上線時，OpenAI 原本計畫同步退役 GPT-4o，卻因使用者強烈反彈，最終保留在付費訂閱方案中；當時反對退場的連署請願累積逾 2 萬個簽名。
直到今年 2 月 13 日，OpenAI 才正式關閉 GPT-4o 的存取權限。幾乎同一時間，加州一位法官著手整併 13 起相關訴訟，內容涉及多起自殺、企圖自殺與嚴重精神崩潰案件，原告多指控 GPT-4o 的回應加重了精神健康風險。
