OpenAI betont, dass seine neueren ChatGPT‑Modelle deutlich seltener schädliche Überzeugungen und Wahnvorstellungen bestärken als GPT‑4o – jenes eingestellte Modell, das inzwischen im Zentrum von mindestens 13 Klagen steht.
Wichtigste Punkte:
- Laut OpenAI hat GPT‑5 „Ja‑Sager“-Antworten im Vergleich zu GPT‑4o um mehr als zwei Drittel reduziert.
- Externe Forscher sehen bei neueren Modellen ein deutlich geringeres Risiko, Wahnideen oder ungesunde Abhängigkeit zu verstärken.
- GPT‑4o, das im Februar aus ChatGPT entfernt wurde, ist Gegenstand von mindestens 13 Klagen wegen angeblicher Schädigung von Nutzern.
OpenAI‑Zahlen zur „Ja‑Sager“-Neigung
Längere Gespräche mit GPT‑4o wurden im vergangenen Jahr mit sieben Suiziden, einem Mord‑Suizid und einem Amoklauf in Verbindung gebracht, wie ein am Sonntag veröffentlichter Bericht ausführt. Ein ursächlicher Zusammenhang sei damit jedoch nicht belegt.
Unter „Sycophancy“ versteht man die Tendenz eines Chatbots, Nutzern nach dem Mund zu reden, statt falsche oder gefährliche Annahmen zu hinterfragen. OpenAI erklärt nun, GPT‑5 – das GPT‑4o als Standardmodell abgelöst hat – habe derartige Ja‑Sager‑Antworten um mehr als zwei Drittel verringert. In internen Tests mit simulierten, länger andauernden Gesprächen über Selbstverletzung hielten sich die neueren Modelle in 99 % der Fälle an die Sicherheitsrichtlinien, verglichen mit 86 % bei älteren Versionen, wie das Unternehmen berichtet.
Zudem hat das Unternehmen einen neuen Benchmark entwickelt, gemeinsam mit mehr als 80 lizenzierten Psychologinnen, Psychologen und Psychiaterinnen bzw. Psychiatern aus 22 Ländern. Getestet wird, wie Modelle mit Themen von Alltagsstress bis hin zu akuten Notfällen umgehen, in denen Unterstützung in der realen Welt nötig ist. Bereits im Vorjahr hatte OpenAI 170 Fachleute aus dem Bereich psychische Gesundheit konsultiert.
Lesen Sie auch: Die intelligente ChatGPT‑Oberfläche bringt Diagramme und Rechner direkt in Antworten für 1,2 Mrd. Nutzende
Transluce‑Ergebnisse zur Sicherheit
Unabhängige Tests deuten in dieselbe Richtung. Forschende der City University of New York und des King's College London kamen zu dem Ergebnis, dass GPT‑5.2 die Sicherheitsbilanz von GPT‑4o deutlich verbessert. Das Non‑Profit‑KI‑Labor Transluce stellte fest, dass GPT‑5.6 Sol wesentlich seltener Wahnvorstellungen verstärke oder ungesunde Abhängigkeiten befeuere.
Auf dem neuen Benchmark, der am 23. September veröffentlicht wurde, erreichte OpenAIs Modell GPT‑6 Astra 57,3 %, während eine Version von GPT‑4o aus dem März 2025 nur auf 32,1 % kam. Bewertet wurde von OpenAI selbst – mit GPT‑5.6 Sol, das die Antworten anhand von Kriterien prüfte, die Fachleute zuvor definiert hatten.
Klinikerinnen, Kliniker und Forschende warnen jedoch weiterhin, dass lange Gespräche mit Chatbots Wahnvorstellungen verfestigen und es versäumen können, gefährdete Personen rechtzeitig zu menschlicher Hilfe zu lenken. Das Problem betreffe die gesamte Branche, nicht nur ein einzelnes Unternehmen oder Modell.
Der lange Abschied von GPT‑4o
OpenAIs Schwierigkeiten mit GPT‑4o reichen bis April 2025 zurück. Damals nahm das Unternehmen ein Update zurück, das das Modell übermäßig schmeichelhaft gemacht hatte. Mit dem Start von GPT‑5 im August 2025 sollte GPT‑4o eigentlich vollständig abgelöst werden – blieb dann aber nach einem Nutzerprotest mit über 20.000 Unterschriften doch noch für zahlende Abonnenten verfügbar.
Am 13. Februar zog OpenAI schließlich die Reißleine und kappten den Zugang zu GPT‑4o – zu einem Zeitpunkt, als eine Richterin in Kalifornien daran ging, 13 Klagen wegen Suiziden, Suizidversuchen und psychischen Zusammenbrüchen zusammenzuführen.
Als Nächstes lesen: Kann TRON 95 Mrd. US‑Dollar in Stablecoins vor Quantenangriffen schützen? Sun sieht das Netzwerk gut gerüstet
