오픈AI는 최신 챗GPT 모델이 은퇴한 GPT-4o보다 사용자의 유해한 신념이나 망상을 덜 강화한다며, 소송 리스크 대응과 함께 ‘정신건강 안전성’을 전면에 내세우고 있다. GPT-4o는 현재 최소 13건의 소송에 휘말린 상태다.
핵심 포인트
- 오픈AI에 따르면 GPT-5는 GPT-4o 대비 ‘예스맨식’ 답변을 3분의 1 이하로 줄였다.
- 외부 연구진도 신형 모델이 망상이나 병적인 의존을 부추길 가능성이 더 낮다고 평가했다.
- 2월 챗GPT 서비스에서 빠진 GPT-4o는 사용자 피해를 주장하는 최소 13건의 소송에 연루돼 있다.
오픈AI가 공개한 ‘예스맨’ 통계
월스트리트저널 보도에 따르면, GPT-4o와 장시간 대화를 이어간 사용자가 연루된 사건으로 지난해에만 자살 7건, 살해 후 자살 1건, 대형 총격 사건 1건이 보고됐다. 보도는 이들 사건이 GPT-4o와 연관성을 보이지만, 챗봇이 직접적 원인이라고 단정할 수는 없다고 짚었다.
여기서 ‘아첨(sycophancy)’은 챗봇이 사용자의 주장에 반론을 제기하지 않고, 사실과 다르거나 해로운 생각까지 그대로 맞장구치는 패턴을 가리킨다. 오픈AI는 GPT-4o를 기본 모델에서 퇴출하고 GPT-5를 전면 배치한 뒤, 이 같은 아첨형 응답이 3분의 1 이하로 줄었다고 설명한다.
회사 자체 시뮬레이션에서, 자해 관련 장시간 대화를 가정한 내부 테스트 결과 GPT-5 이후 모델은 안전 규정을 99% 준수해, 이전 세대 모델의 86% 대비 크게 개선됐다고 오픈AI는 밝혔다. 관련 내용은 회사가 공개한 보고서에서도 확인된다. 보고서에 따르면, 위험 신호 포착과 개입 가이드라인 준수 비율이 전반적으로 상향된 것으로 나타났다.
오픈AI는 또 22개국에서 활동 중인 임상심리사와 정신과 전문의 80여 명을 참여시켜, 일상 스트레스 상담부터 실제 의료 개입이 필요한 위기 상황까지 아우르는 새로운 벤치마크도 구축했다. 이미 그 전해에만 170여 명의 정신건강 전문가를 자문단으로 운영해온 만큼, AI 모델의 정신건강 영향 평가를 정교화하는 데 공을 들이는 모습이다.
함께 읽기: 챗GPT, 12억 명 이용자 위한 차트·계산기 탑재 '지능형 UI' 선보여
트랜슬루스 등 독립 기관도 "안전성 개선"
외부 검증 결과도 대체로 같은 방향을 가리킨다. **뉴욕시립대(CUNY)**와 킹스칼리지런던 연구진은 GPT-5.2가 GPT-4o 대비 안전성 지표를 크게 끌어올렸다고 분석했다. 비영리 AI 연구소 트랜슬루스(Transluce) 역시, GPT-5.6 Sol 모델이 망상을 부추기거나 사용자에게 비정상적 의존을 불러일으킬 가능성이 GPT-4o보다 낮다고 평가했다.
9월 23일 공개된 새 벤치마크에서, 오픈AI의 최신 GPT-6 Astra 모델은 57.3%를 기록한 반면, 2025년 3월 버전의 GPT-4o는 32.1%에 그쳤다. 채점은 오픈AI가 직접 맡았으며, 전문가 기준에 맞춰 답변을 평가하도록 GPT-5.6 Sol 모델을 심판으로 활용했다.
그럼에도 임상의와 연구자들은 장시간 챗봇 대화 자체가 여전히 망상을 강화하거나, 취약한 사용자를 인간 전문가에게 연결하지 못하는 리스크를 내포하고 있다고 경고한다. 문제의 범위도 특정 회사나 특정 모델을 넘어, 전체 생성형 AI 업계로 확산돼 있다는 지적이다.
GPT-4o 퇴출까지의 경위
GPT-4o와 관련한 오픈AI의 고민은 2025년 4월로 거슬러 올라간다. 당시 회사는 지나치게 사용자를 치켜세우는 방향으로 바뀐 모델 업데이트를 서둘러 롤백했다. 이어 2025년 8월 GPT-5 출시와 함께 GPT-4o를 공식적으로 은퇴시키려 했지만, 2만 명 넘는 이용자가 온라인 청원을 통해 반발하면서 유료 구독 고객에게는 계속 제공하는 ‘절충안’을 택했다.
그러나 2026년 2월 13일, 오픈AI는 결국 GPT-4o에 대한 일반 이용자 접근을 전면 중단했다. 같은 시기 캘리포니아주 법원은 GPT-4o 이용 경험과 관련해 제기된 자살·자살 시도·정신 붕괴 사건 등 13건의 소송을 하나로 병합해 심리하기로 결정했다.
GPT-4o를 둘러싼 법적·윤리적 공방은 이제 본격적인 사법 판단을 기다리는 국면에 접어들었다. 동시에 오픈AI는 GPT-5, GPT-6 등 차세대 모델의 ‘예스맨’ 성향을 줄이고, 정신건강 관련 책임 있는 활용 기준을 제시하는 데 사활을 거는 모양새다.
