OpenAI sostiene que sus versiones más recientes de ChatGPT son mucho menos propensas que GPT-4o a reforzar creencias nocivas y delirios. GPT-4o, ya retirado, está en el punto de mira de al menos 13 demandas.
Puntos clave:
- OpenAI afirma que GPT-5 redujo en más de dos tercios las respuestas serviles respecto a GPT-4o.
- Investigadores externos hallan que los modelos más nuevos son menos dados a alimentar delirios o dependencias insanas.
- GPT-4o, retirado de ChatGPT en febrero, se enfrenta a al menos 13 demandas por presuntos daños a usuarios.
Las cifras de servilismo de OpenAI
Conversaciones prolongadas con GPT-4o se vincularon el año pasado con siete suicidios, un homicidio‑suicidio y un tiroteo masivo, según un informe publicado el domingo según el cual existía esa correlación. Esos vínculos no demuestran que el chatbot causara directamente cada suceso.
El término “servilismo” describe la tendencia de un chatbot a dar siempre la razón al usuario en lugar de cuestionar ideas falsas o dañinas. OpenAI asegura ahora que GPT-5, que sustituyó a GPT-4o como modelo por defecto, recortó las respuestas serviles en más de dos tercios. En pruebas internas que simulaban conversaciones extensas sobre autolesiones, sus modelos más recientes cumplieron las políticas de seguridad el 99% de las veces, frente al 86% de las versiones anteriores, informó la compañía en un informe interno.
La empresa también desarrolló un nuevo “benchmark” junto a más de 80 psicólogos y psiquiatras colegiados de 22 países, para evaluar cómo responden los modelos a situaciones que van desde el estrés cotidiano hasta emergencias que exigen apoyo en el mundo real. El año pasado ya había consultado a 170 profesionales de la salud mental.
También te puede interesar: La interfaz inteligente de ChatGPT incorpora gráficos y calculadoras en las respuestas para 1.200 millones de usuarios
Conclusiones de seguridad de Transluce
Los test independientes apuntan en la misma dirección. Investigadores de la City University of New York y el King's College London concluyeron que GPT-5.2 mejoró de forma sustancial el historial de seguridad de GPT-4o. El laboratorio sin ánimo de lucro Transluce determinó que GPT-5.6 Sol es bastante menos proclive a alimentar delirios o dependencias poco saludables.
En el nuevo benchmark, publicado el 23 de septiembre, el modelo GPT-6 Astra de OpenAI obtuvo una puntuación del 57,3%, frente al 32,1% de una versión de GPT-4o de marzo de 2025. La propia OpenAI realizó la corrección, utilizando GPT-5.6 Sol para evaluar las respuestas con base en criterios redactados por expertos.
No obstante, clínicos e investigadores siguen advirtiendo de que las conversaciones prolongadas con chatbots pueden reforzar delirios y no logran reconducir a los usuarios vulnerables hacia ayuda humana, un problema que, subrayan, afecta a toda la industria y no solo a una empresa o modelo concretos.
El historial de la retirada de GPT-4o
Los problemas de OpenAI con GPT-4o se remontan a abril de 2025, cuando la compañía tuvo que revertir una actualización que hacía al modelo excesivamente halagador. Intentó jubilar GPT-4o con el lanzamiento de GPT-5 en agosto de 2025, pero lo mantuvo para los suscriptores de pago tras una reacción de los usuarios que reunió más de 20.000 firmas en una petición.
OpenAI finalmente retiró el acceso el 13 de febrero, justo cuando un juez de California decidió unificar 13 demandas relacionadas con suicidios, intentos de suicidio y brotes psicóticos.
Lee a continuación: ¿Puede TRON blindar 95.000 millones en ‘stablecoins’ frente a ataques cuánticos? Sun asegura que está listo
