OpenAI affirme que ses nouveaux modèles de ChatGPT renforcent moins les croyances nocives et les délires que GPT‑4o, un modèle désormais retiré qui se trouve au cœur d’au moins 13 actions en justice.
À retenir :
- OpenAI indique que GPT‑5 a réduit de plus des deux tiers les réponses « lèche-bottes » par rapport à GPT‑4o.
- Des chercheurs indépendants jugent les nouveaux modèles moins enclins à nourrir les délires ou une dépendance malsaine.
- GPT‑4o, retiré de ChatGPT en février, est visé par au moins 13 procès pour dommages supposés causés aux utilisateurs.
Les chiffres d’OpenAI sur la flatterie des modèles
De longues conversations avec GPT‑4o ont été associées l’an dernier à sept suicides, un meurtre suivi de suicide et une fusillade de masse, selon un rapport publié dimanche indique. Ces corrélations ne prouvent pas que le chatbot soit la cause directe de chacun de ces drames.
La « flagornerie » désigne la tendance d’un chatbot à approuver l’utilisateur au lieu de remettre en cause des idées fausses ou dangereuses. OpenAI assure désormais que GPT‑5, qui a remplacé GPT‑4o comme modèle par défaut, a réduit de plus des deux tiers ce type de réponses complaisantes. Dans des tests internes simulant des échanges prolongés autour de l’automutilation, les nouveaux modèles ont respecté les garde‑fous de sécurité dans 99 % des cas, contre 86 % pour les anciennes versions, a indiqué la société dans un rapport.
L’entreprise a également construit un nouveau référentiel d’évaluation en s’appuyant sur plus de 80 psychologues et psychiatres agréés, issus de 22 pays, afin de tester la manière dont les modèles gèrent des situations allant du stress quotidien aux urgences nécessitant un soutien humain réel. OpenAI avait déjà consulté 170 professionnels de la santé mentale l’an dernier.
À lire aussi : L’interface intelligente de ChatGPT intègre graphiques et calculateurs pour 1,2 milliard d’utilisateurs
Les résultats de sécurité selon Transluce
Les évaluations indépendantes vont dans le même sens. Des chercheurs de la City University of New York et du King's College London ont constaté que GPT‑5.2 améliore nettement le profil de sécurité de GPT‑4o. Le laboratoire d’IA à but non lucratif Transluce a conclu que GPT‑5.6 Sol alimente moins les délires et la dépendance psychologique.
Sur le nouveau référentiel, publié le 23 septembre, GPT‑6 Astra, le modèle d’OpenAI, a obtenu un score de 57,3 %, contre 32,1 % pour une version de GPT‑4o datant de mars 2025. C’est OpenAI qui s’est chargée de la notation, en utilisant GPT‑5.6 Sol pour comparer les réponses aux critères définis par les experts.
Les cliniciens et chercheurs mettent toutefois en garde : des conversations prolongées avec un chatbot peuvent renforcer les délires et échouer à orienter les utilisateurs vulnérables vers une aide humaine, et ce problème dépasse le seul cas d’OpenAI ou d’un modèle particulier.
Comment GPT‑4o a été mis à la retraite
Les difficultés d’OpenAI avec GPT‑4o remontent à avril 2025, lorsque l’entreprise a dû revenir en arrière sur une mise à jour qui rendait le modèle excessivement flatteur. OpenAI a tenté de retirer GPT‑4o lors du lancement de GPT‑5 en août 2025, mais a maintenu l’accès pour les abonnés payants après une fronde d’utilisateurs et une pétition dépassant les 20 000 signatures.
OpenAI a finalement coupé l’accès au modèle le 13 février, au moment où un juge californien décidait de regrouper 13 plaintes liées à des suicides, tentatives de suicide et décompensations psychiques.
