OpenAI asegura que sus versiones más recientes de ChatGPT son menos propensas a reforzar creencias dañinas y falsas que GPT-4o, el modelo retirado que está en el centro de al menos 13 demandas judiciales.
Claves:
- OpenAI afirma que GPT-5 redujo las respuestas complacientes en más de dos tercios frente a GPT-4o.
- Investigaciones externas señalan que los modelos más nuevos son menos proclives a alimentar delirios o dependencias poco saludables.
- GPT-4o, retirado de ChatGPT en febrero, se enfrenta al menos a 13 demandas por presuntos daños a usuarios.
Las cifras de la “complacencia” en OpenAI
Conversaciones prolongadas con GPT-4o se vincularon el año pasado con siete suicidios, un asesinato‑suicidio y un tiroteo masivo, según un informe publicado el domingo, que lo indica. Esos vínculos no prueban que el chatbot causara directamente cada uno de los hechos.
La “complacencia” describe la tendencia del chatbot a dar la razón al usuario en lugar de cuestionar ideas falsas o peligrosas. OpenAI afirma ahora que GPT-5, que sustituyó a GPT-4o como modelo por defecto, redujo las respuestas complacientes en más de dos tercios. En pruebas internas que simulaban conversaciones prolongadas sobre autolesiones, los modelos más recientes siguieron las políticas de seguridad el 99% de las veces, frente al 86% de las versiones anteriores, según reportó la compañía.
La empresa también desarrolló un nuevo benchmark con la participación de más de 80 psicólogos y psiquiatras colegiados de 22 países, para evaluar cómo responden los modelos ante situaciones que van desde el estrés cotidiano hasta emergencias que requieren apoyo en el mundo real. El año pasado ya había consultado a 170 profesionales de la salud mental.
También te puede interesar: La interfaz inteligente de ChatGPT integra gráficos y calculadoras en las respuestas para 1.200 millones de usuarios
Hallazgos de seguridad de Transluce
Las pruebas independientes apuntan en la misma dirección. Investigadores de la City University of New York y el King's College London concluyeron que GPT-5.2 mejoró de forma sustancial el historial de seguridad de GPT-4o. El laboratorio sin ánimo de lucro Transluce detectó que GPT-5.6 Sol es menos proclive a alimentar delirios o una dependencia poco saludable del chatbot.
En el nuevo benchmark, publicado el 23 de septiembre, el modelo GPT-6 Astra de OpenAI obtuvo una puntuación del 57,3%, mientras que una versión de GPT-4o de marzo de 2025 se quedó en el 32,1%. La propia OpenAI se encargó de la corrección, utilizando GPT-5.6 Sol para evaluar las respuestas frente a criterios elaborados por expertos humanos.
No obstante, clínicos e investigadores siguen advirtiendo de que las conversaciones largas con chatbots pueden reforzar delirios y no logran derivar a usuarios vulnerables hacia ayuda humana, y subrayan que el problema afecta a todo el sector, no solo a una empresa o a un modelo concreto.
El historial del retiro de GPT-4o
Los problemas de OpenAI con GPT-4o se remontan a abril de 2025, cuando la compañía revirtió una actualización que había vuelto al modelo excesivamente adulador. Intentó retirarlo con el lanzamiento de GPT-5 en agosto de 2025, pero lo mantuvo disponible para suscriptores de pago tras una oleada de quejas de usuarios y una petición que reunió más de 20.000 firmas.
OpenAI finalmente cortó el acceso el 13 de febrero, coincidiendo con la decisión de un juez de California de unificar 13 demandas relacionadas con suicidios, intentos de suicidio y episodios psicóticos.
Próxima lectura: ¿Puede TRON blindar 95.000 millones en ‘stablecoins’ frente a ataques cuánticos? Sun asegura que está listo
