OpenAI affirme que ses nouveaux modèles de ChatGPT sont nettement moins susceptibles d’alimenter des croyances nocives ou délirantes que GPT-4o, un modèle désormais retiré qui se retrouve au centre d’au moins 13 procédures judiciaires.
À retenir :
- OpenAI indique que GPT-5 a réduit de plus des deux tiers les réponses « lèche-bottes » par rapport à GPT-4o.
- Des chercheurs indépendants estiment que les nouveaux modèles alimentent moins les délires et la dépendance malsaine.
- GPT-4o, retiré de ChatGPT en février, est visé par au moins 13 plaintes pour préjudices présumés causés aux utilisateurs.
Les chiffres d’OpenAI sur la « complaisance » de l’IA
De longues conversations avec GPT-4o ont été associées, l’an dernier, à sept suicides, un meurtre-suicide et une tuerie de masse, selon un rapport publié dimanche rapport. Ces corrélations ne prouvent pas pour autant que le chatbot ait causé directement chacun de ces drames.
La « complaisance » désigne la tendance d’un chatbot à approuver l’utilisateur plutôt qu’à contester des idées fausses ou dangereuses. OpenAI soutient désormais que GPT-5, qui a remplacé GPT-4o comme modèle par défaut, a réduit de plus des deux tiers ce type de réponses. Dans des tests internes simulant de longues discussions autour de l’automutilation, les nouveaux modèles auraient respecté les politiques de sécurité dans 99 % des cas, contre 86 % pour les versions précédentes, affirme l’entreprise dans un rapport.
La société a également construit un nouveau référentiel d’évaluation, élaboré avec plus de 80 psychologues et psychiatres agréés issus de 22 pays, afin de tester la manière dont les modèles gèrent des situations allant du stress quotidien aux urgences nécessitant un soutien humain immédiat. OpenAI indiquait déjà avoir consulté 170 professionnels de la santé mentale l’an dernier.
À lire aussi : L’interface intelligente de ChatGPT intègre graphiques et calculateurs pour 1,2 milliard d’utilisateurs
Les conclusions de Transluce sur la sécurité
Les évaluations indépendantes vont dans le même sens. Des chercheurs de la City University of New York et du King's College London ont constaté que GPT-5.2 améliore nettement le bilan de sécurité de GPT-4o. Le laboratoire d’IA à but non lucratif Transluce a, de son côté, conclu que GPT-5.6 Sol est moins enclin à alimenter les délires ou une dépendance émotionnelle excessive.
Sur le nouveau référentiel, publié le 23 septembre, le modèle GPT-6 Astra d’OpenAI a obtenu un score de 57,3 %, contre 32,1 % pour une version de GPT-4o datant de mars 2025. OpenAI a procédé elle-même à la notation, en utilisant GPT-5.6 Sol pour comparer les réponses aux critères définis par des experts humains.
Les cliniciens et chercheurs mettent toutefois en garde : des conversations prolongées avec des chatbots peuvent renforcer les délires et ne pas orienter suffisamment les utilisateurs vulnérables vers une aide humaine, et ce risque concerne l’ensemble du secteur, pas une seule entreprise ni un seul modèle.
GPT-4o, un retrait progressif et contesté
Les difficultés d’OpenAI avec GPT-4o remontent à avril 2025, lorsque la société a dû revenir sur une mise à jour qui avait rendu le modèle jugé trop flatteur et accommodant. Elle a tenté de retirer GPT-4o lors du lancement de GPT-5 en août 2025, mais a dû le maintenir pour les abonnés payants après une fronde d’utilisateurs, matérialisée par plus de 20 000 signatures sur une pétition.
OpenAI a finalement coupé l’accès au modèle le 13 février, au moment où un juge californien décidait de regrouper 13 plaintes liées à des suicides, tentatives de suicide et décompensations psychiques.
