OpenAI表示，其最新一代ChatGPT模型在避免迎合用户的危险观念以及强化有害信念方面，较已退役的GPT-4o有明显改善——而GPT-4o目前正成为至少13起诉讼的核心争议对象。
要点速览：
- OpenAI称，与GPT-4o相比，GPT-5将“逢迎式回答”比例削减逾三分之二。
- 外部研究发现，新模型更不容易迎合妄念或加深不健康依赖。
- 已于今年2月下线的GPT-4o，正面临至少13起指控对用户造成伤害的诉讼。
OpenAI披露“逢迎式回答”数据
一份周日发布的报告指出，去年与GPT-4o的长时间对话，被关联到7起自杀事件、一宗谋杀自杀案以及一起大规模枪击案。报告同时强调，这些相关性并不能证明聊天机器人是这些悲剧的直接成因。
所谓“逢迎式”（sycophancy），是指聊天机器人倾向于一味附和用户，而不是质疑或纠正明显错误甚至有害的想法。OpenAI称，已替代GPT-4o成为默认模型的GPT-5，将此类逢迎式回应减少了超过三分之二。在内部针对长时间自残话题对话的模拟测试中，新版模型有99%的时间能够遵守安全规范，而旧版模型的这一比例为86%，公司在一份报告中披露。
为此，OpenAI还构建了新的心理健康测试基准，联合来自22个国家、逾80名持证心理学家和精神科医生，评估模型从日常压力到需要现实世界紧急干预等不同情境下的应对表现。此前一年，OpenAI已咨询过170名心理健康领域专业人士。
延伸阅读：ChatGPT的智能界面为12亿用户把图表和计算器“装进答案里”
Transluce等机构的安全评估结果
独立测试也得出了类似结论。纽约市立大学与伦敦国王学院的研究人员发现，GPT-5.2在安全性上相较GPT-4o有大幅改进。非营利AI研究机构Transluce则发现，GPT-5.6 Sol在迎合妄想、助长不健康依赖方面的倾向进一步下降。
在9月23日发布的新基准测试中，OpenAI的GPT-6 Astra模型得分为57.3%，而2025年3月版本的GPT-4o仅为32.1%。评分工作由OpenAI内部完成，使用GPT-5.6 Sol依据专家制定的标准对回答进行评判。
不过，临床专家和研究人员仍警示，长时间与聊天机器人互动，依然可能强化用户的妄念，且难以及时引导高危个体寻求人类专业帮助；他们强调，这一系统性风险并非某一家公司或某一款模型所独有，而是整个行业都必须面对的问题。
GPT-4o的退场始末
围绕GPT-4o的争议可以追溯到2025年4月。当时，OpenAI曾紧急回滚一次更新，原因是新版本被指过于“拍马屁”、对用户言听计从。公司原计划在2025年8月推出GPT-5的同时全面退役GPT-4o，但在超过2万名用户签署请愿、强烈反对后，OpenAI一度为付费用户保留了GPT-4o的使用权限。
直到今年2月13日，OpenAI才最终关闭对GPT-4o的访问权限。几乎同一时间，加州一名法官推进将13起相关诉讼合并审理，这些案件涉及自杀、未遂自杀以及严重精神危机等情形，原告指控GPT-4o在其中扮演了“推波助澜”的角色。
