OpenAI informuje, że najnowsze modele ChatGPT znacznie rzadziej niż GPT-4o wzmacniają szkodliwe przekonania i urojenia. GPT-4o, dziś już wycofany, znajduje się w centrum co najmniej 13 postępowań sądowych.
Najważniejsze:
- OpenAI podaje, że GPT-5 ograniczył „przymilne” odpowiedzi o ponad dwie trzecie względem GPT-4o.
- Niezależni badacze potwierdzają, że nowsze modele rzadziej podsycają urojenia lub niezdrową zależność.
- GPT-4o, usunięty z ChatGPT w lutym, jest objęty co najmniej 13 pozwami za rzekomą szkodę wyrządzoną użytkownikom.
Dane OpenAI na temat „przymilności” modeli
Jak podaje niedzielny raport, długie rozmowy z GPT-4o powiązano w ubiegłym roku z siedmioma samobójstwami, jednym zabójstwem rozszerzonym i strzelaniną masową, choć samo powiązanie statystyczne nie dowodzi, że to chatbot spowodował każde z tych tragicznych zdarzeń (źródło).
„Przymilność” (sycophancy) to skłonność chatbota do przytakiwania użytkownikowi zamiast korygowania fałszywych lub szkodliwych treści. Według OpenAI GPT-5, który zastąpił GPT-4o jako domyślny model, zredukował takie uległe odpowiedzi o ponad dwie trzecie. W wewnętrznych testach, które symulowały długie rozmowy o samookaleczeniach, nowsze modele w 99% przypadków trzymały się zasad bezpieczeństwa, wobec 86% w starszych wersjach – poinformowała spółka w swoim raporcie (link).
Firma stworzyła też nowy benchmark, we współpracy z ponad 80 licencjonowanymi psychologami i psychiatrami z 22 państw. Sprawdza on, jak modele radzą sobie z całym spektrum sytuacji – od codziennego stresu po nagłe kryzysy, w których potrzebna jest realna interwencja człowieka. Wcześniej, w ubiegłym roku, OpenAI konsultowała się z 170 specjalistami zdrowia psychicznego (szczegóły).
Zobacz też: Inteligentny interfejs ChatGPT dodaje wykresy i kalkulatory do odpowiedzi dla 1,2 mld użytkowników
Wnioski z testów Transluce
Niezależne testy idą w tym samym kierunku. Badacze z City University of New York oraz King's College London ustalili, że GPT-5.2 wyraźnie poprawił wyniki w obszarze bezpieczeństwa względem GPT-4o. Z kolei niezależne laboratorium AI Transluce wykazało, że GPT-5.6 Sol znacznie rzadziej podsyca urojenia lub wzmacnia niezdrową zależność użytkowników.
Na nowym benchmarku, opublikowanym 23 września, model GPT-6 Astra od OpenAI uzyskał wynik 57,3%, podczas gdy wersja GPT-4o z marca 2025 r. osiągnęła 32,1%. Co istotne, oceną odpowiedzi zajmował się sam OpenAI, wykorzystując do tego model GPT-5.6 Sol, który porównywał wyniki z kryteriami przygotowanymi przez ekspertów.
Klinicyści i badacze wciąż jednak ostrzegają, że długie rozmowy z chatbotami mogą utrwalać urojenia i nie zawsze skutecznie kierują osoby w kryzysie do bezpośredniej, ludzkiej pomocy. Zaznaczają też, że problem dotyczy całej branży, a nie tylko jednego modelu czy jednego dostawcy.
Historia wycofania GPT-4o
Problemy OpenAI z GPT-4o sięgają kwietnia 2025 r., kiedy firma wycofała aktualizację, która sprawiła, że model stał się przesadnie pochlebny wobec użytkowników. Spółka zamierzała definitywnie pożegnać się z GPT-4o przy okazji debiutu GPT-5 w sierpniu 2025 r., ale po gwałtownej reakcji użytkowników – pod petycją podpisało się ponad 20 tys. osób – utrzymała model dla płatnych subskrybentów.
Ostatecznie OpenAI zablokowała dostęp do GPT-4o 13 lutego, mniej więcej w tym samym czasie, gdy sędzia w Kalifornii zdecydował o połączeniu 13 pozwów dotyczących samobójstw, prób samobójczych oraz poważnych załamań psychicznych, w których użytkownicy lub ich bliscy wskazują na rolę chatbota.
Czytaj dalej: Czy TRON ochroni 95 mld dol. w stablecoinach przed atakami kwantowymi? Sun zapewnia, że sieć jest gotowa
