OpenAI berichtet, dass seine neuesten ChatGPT-Modelle deutlich seltener schädliche Überzeugungen und Wahnideen verstärken als GPT-4o – jenes eingestellte Modell, das inzwischen Gegenstand von mindestens 13 Klagen ist.
Zentrale Punkte:
- OpenAI erklärt, GPT-5 habe im Vergleich zu GPT-4o schmeichelnde, „nach dem Mund redende“ Antworten um mehr als zwei Drittel reduziert.
- Externe Forscher sehen bei neueren Modellen ein geringeres Risiko, Wahnvorstellungen oder ungesunde Abhängigkeiten zu befeuern.
- GPT-4o, das im Februar aus ChatGPT entfernt wurde, ist in mindestens 13 Klagen wegen angeblicher Nutzerschäden angegriffen.
Zahlen zur „Ja-Sager“-Neigung von OpenAI
Längere Chats mit GPT-4o wurden im vergangenen Jahr mit sieben Suiziden, einem Mord-Suizid und einem Amoklauf in Verbindung gebracht, wie ein am Sonntag veröffentlichter Bericht ausführt. Ein ursächlicher Zusammenhang ist damit allerdings nicht belegt.
Unter „Sycophancy“ verstehen Forscher die Tendenz eines Chatbots, Nutzern zuzustimmen, statt falsche oder gefährliche Annahmen kritisch zu hinterfragen. OpenAI gibt nun an, GPT-5 – der Nachfolger und neue Standard anstelle von GPT-4o – habe solche „Ja-Sager“-Antworten um mehr als zwei Drittel zurückgedrängt. In internen Tests mit simulierten längeren Unterhaltungen zu Selbstverletzung hielten sich die neuesten Modelle laut Unternehmen in 99 % der Fälle an die hauseigenen Sicherheitsrichtlinien, nach zuvor 86 % bei älteren Versionen, wie OpenAI mitteilte.
Zudem hat OpenAI einen neuen Benchmark entwickelt, an dem mehr als 80 approbierte Psychologinnen, Psychologen und Psychiater aus 22 Ländern mitwirkten. Getestet wird, wie die Modelle mit Alltagssorgen bis hin zu akuten Notfällen umgehen, in denen zwingend reale Hilfe nötig ist. Bereits im Vorjahr hatte das Unternehmen 170 Fachleute aus dem Bereich psychische Gesundheit konsultiert.
Mehr dazu: ChatGPTs intelligente Oberfläche bringt Charts und Rechner direkt in Antworten für 1,2 Mrd. Nutzer
Transluce-Sicherheitsbefunde
Unabhängige Untersuchungen deuten in die gleiche Richtung. Forschende der City University of New York und des King's College London stellten fest, dass GPT-5.2 die Sicherheitsbilanz von GPT-4o deutlich verbessert. Das gemeinnützige KI-Labor Transluce kam zu dem Ergebnis, dass GPT-5.6 Sol wesentlich seltener Wahnideen verstärkt oder ungesunde Abhängigkeiten fördert.
Auf dem neuen Benchmark, der am 23. September veröffentlicht wurde, erreichte OpenAIs Modell GPT-6 Astra 57,3 %, während eine Version von GPT-4o aus März 2025 nur auf 32,1 % kam. Bewertet wurde von OpenAI selbst – mithilfe von GPT-5.6 Sol, das die Antworten an von Experten definierten Kriterien maß.
Fachärzte und Forscher warnen jedoch weiterhin, dass lange Unterhaltungen mit Chatbots Wahnvorstellungen stabilisieren und gefährdete Nutzer nicht zuverlässig in Richtung menschlicher Hilfe lenken. Das Problem betreffe die gesamte Branche, nicht nur ein einzelnes Unternehmen oder Modell.
Chronik der GPT-4o-Abschaltung
OpenAIs Schwierigkeiten mit GPT-4o reichen bis April 2025 zurück. Damals zog das Unternehmen ein Update zurück, das das Modell übermäßig schmeichelhaft und zustimmend erscheinen ließ. Mit dem Start von GPT-5 im August 2025 sollte GPT-4o eigentlich aus ChatGPT verschwinden, blieb nach einem Nutzerprotest mit mehr als 20.000 Unterschriften jedoch zunächst für zahlende Abonnenten verfügbar.
Endgültig kappte OpenAI den Zugang am 13. Februar, etwa zu dem Zeitpunkt, als ein Richter in Kalifornien beschloss, 13 Klagen wegen Suiziden, Suizidversuchen und psychischen Zusammenbrüchen zu bündeln.
Als Nächstes lesen: Kann TRON 95 Mrd. US-Dollar in Stablecoins vor Quantenangriffen schützen? Sun erklärt das System für bereit
