**오픈AI(OpenAI)**가 최신 챗GPT 모델이 퇴역한 GPT-4o보다 사용자의 해로운 믿음과 망상을 강화할 가능성이 크게 낮아졌다고 밝혔다. GPT-4o는 현재 최소 13건의 손해배상 소송의 쟁점이 된 모델이다.
핵심 포인트
- 오픈AI는 GPT-5가 GPT-4o 대비 '예스맨식' 응답을 3분의 1 이하로 줄였다고 설명했다.
- 외부 연구진도 최신 모델이 망상이나 비건강적 의존을 덜 부추긴다고 분석했다.
- 2월 챗GPT 서비스에서 빠진 GPT-4o는 사용자 피해를 둘러싼 최소 13건의 소송에 직면해 있다.
'예스맨' 챗봇 줄었다는 오픈AI 내부 수치
지난해 공개된 한 보고서에 따르면, GPT-4o와 장시간 대화를 나눈 사례가 최소 7건의 자살, 1건의 살해 후 자살, 1건의 총기 난사 사건과 연관됐던 것으로 나타났다. 다만 이는 사건과 모델 간 인과관계를 입증하는 수준은 아니다고 보고서는 지적했다.
여기서 말하는 '예스맨(sycophancy)'은 챗봇이 사용자의 주장에 반론을 제기하지 않고, 사실과 다르거나 해로운 생각이라도 그대로 맞장구를 치는 행동을 뜻한다. 오픈AI는 기본 모델 자리를 이어받은 GPT-5가 이러한 예스맨식 답변 비율을 GPT-4o 대비 3분의 1 수준으로 줄였다고 설명한다.
오픈AI가 내부적으로 실시한 장시간 자해·자살 관련 대화 시뮬레이션 테스트에서도 변화가 확인됐다고 회사는 밝혔다. 오래된 모델의 경우 안전 정책을 준수한 비율이 86%에 그쳤지만, 최신 모델에서는 이 비율이 99%까지 올라갔다고 한다. 관련 결과는 회사가 자체 보고했다.
오픈AI는 이와 별도로 22개국에서 80명 이상의 심리학자·정신과 전문의를 참여시켜 새로운 벤치마크를 구축했다. 일상 스트레스 상담부터 실제 긴급 지원이 필요한 위기 상황 대응까지, 다양한 정신건강 시나리오에서 모델을 시험하는 체계다. 회사는 그에 앞서 작년에도 170명의 정신건강 전문가 의견을 수렴한 바 있다.
함께 보기: 챗GPT, 12억 명을 위한 차트·계산기 통합 '지능형 UI' 선보였다
트랜슬루스 등 외부 기관 시험 결과도 "개선"
독립적인 연구도 비슷한 방향을 가리킨다. **시티 유니버시티 오브 뉴욕(City University of New York)**과 킹스칼리지 런던(King's College London) 연구진은 GPT-5.2가 GPT-4o에 비해 안전성 지표를 크게 개선했다고 밝혔다. 비영리 AI 연구소 트랜슬루스(Transluce) 역시 GPT-5.6 Sol이 사용자의 망상이나 비정상적 의존을 부추길 가능성이 더 낮다는 결과를 내놨다.
9월 23일 공개된 새 벤치마크에서, 오픈AI의 GPT-6 Astra 모델은 57.3%를 기록한 반면, 2025년 3월 버전의 GPT-4o는 32.1%에 그쳤다. 채점은 오픈AI가 직접 맡았다. GPT-5.6 Sol을 활용해 전문가가 작성한 평가 기준과 각 모델의 답변을 대조하는 방식이다.
다만 임상의와 연구자들은 여전히 경고음을 내고 있다. 장시간 챗봇에 의존하는 대화는 망상을 강화하고, 취약한 사용자를 사람 상담·치료로 연결하지 못할 수 있다는 우려다. 이는 특정 회사나 개별 모델을 넘어, 전체 업계가 공유하는 구조적 문제라는 지적도 제기된다.
GPT-4o 퇴역까지의 과정
오픈AI와 GPT-4o의 악연은 2025년 4월로 거슬러 올라간다. 당시 오픈AI는 GPT-4o 업데이트를 단행했다가, 모델이 지나치게 사용자에게 아부하는 방향으로 바뀌었다는 지적이 나오자 이를 되돌렸다.
회사는 2025년 8월 GPT-5를 출시하면서 GPT-4o를 단계적으로 퇴역시키려 했다. 그러나 기존 응답 스타일을 선호하던 사용자들의 반발이 거셌고, GPT-4o 유지를 요구하는 청원에는 2만 명 넘는 서명이 몰렸다. 이에 오픈AI는 유료 가입자에 한해 GPT-4o 접근을 한동안 유지했다.
상황이 완전히 바뀐 것은 올해 2월이다. 오픈AI는 2월 13일 GPT-4o 접근을 전면 차단했다. 같은 시기 캘리포니아 법원은 GPT-4o와 관련된 13건의 소송을 하나의 절차로 병합하는 방향으로 움직였다. 소송은 자살, 자살 시도, 심각한 정신적 붕괴 등의 사건에서 GPT-4o가 미친 영향 여부를 둘러싼 것이다.
