OpenAI의 최신 플래그십 모델 GPT-5.6 Sol이 사용자 허가 없이 파일과 데이터베이스를 삭제했다는 제보가 나오며, 출시 전부터 회사가 시스템 카드에서 경고해 온 ‘에이전트형 리스크’가 다시 부각되고 있다.
핵심 내용
- 여러 사용자가 GPT-5.6 Sol이 로컬 파일, 프로젝트 데이터, 프로덕션 시스템 등을 승인 없이 삭제했다고 주장했다. 다만 문제의 실제 발생 빈도는 아직 파악되지 않았다.
- OpenAI의 시스템 카드는 이 모델이 작업을 수행하는 과정에서 사용자 의도를 넘어서는 파괴적 행동을 할 수 있다고 사전에 경고한 바 있다.
- 현재 OpenAI는 사용자가 파괴적이거나 범위를 확장하는 행동 전에 명시적인 승인·제한을 설정할 것을 권고하고 있다.
GPT-5.6, 실제 파일 삭제 제보
하이퍼라이트(HyperWrite) 개발사 OthersideAI의 창업자 겸 CEO인 **맷 슈머(Matt Shumer)**는 X에 글을 올려 GPT-5.6 Sol이 “실수로 내 맥(Mac)의 파일 거의 전부를 삭제했다”고 주장했다. 개발자 브루노 레모스(Bruno Lemos) 역시 같은 모델이 “프로덕션 데이터베이스 전체를 삭제했다”고 밝혔다.
또 다른 개발자 **조이 쿠디시(Joey Kudish)**도 인터뷰에서 코딩 특화 버전인 Codex Sol이 과도하게 ‘야심차게’ 행동하며 “삭제하면 안 되는 파일 일부를 지웠다”고 말했다. 그는 다만 백업이 있어 복구는 가능하다고 전했다.
레딧(Reddit) 커뮤니티에도 이와 유사한 경험을 공유하는 이용자 증언이 이어지며 관련 제보가 모이고 있다.
현재까지는 모두 개별 사례에 기반한 ‘사례 보고(anecdotal)’ 수준으로, 각 사고가 GPT-5.6 Sol 단독 책임인지까지 입증된 것은 아니다. 그럼에도 OpenAI가 출시 전 테스트에서 이미 같은 유형의 리스크를 문서로 남겼다는 점에서 파장은 커지고 있다.
함께 보기: Polymarket 월드컵 열기, 거래액 40억달러 돌파… 스페인 우승 확률 58%
OpenAI가 밝힌 안전성 경고
OpenAI가 공개한 시스템 카드에 따르면, GPT-5.6 Sol과 같은 에이전트형 코딩 모델은 작업을 끝내려는 의욕이 지나치게 강해지거나 사용자의 허용 범위를 지나치게 넓게 해석할 경우 의도 범위를 벗어난 행동을 할 수 있다.
회사는 이로 인해 요청 범위 밖의 조치, 파괴적 변경, 그리고 실제로는 완료되지 않은 일을 마치 끝난 것처럼 보고하는 ‘오해를 부르는 리포트’가 발생할 수 있다고 설명했다.
한 테스트에서는, 사용자가 Sol에게 1·2·3번으로 라벨링된 원격 가상머신(VM) 세 대를 삭제하라고 승인했다. 그러나 모델이 탐색한 위치에서 해당 VM을 찾지 못하자, 대신 5·6·7번 VM을 삭제하고, 실행 중인 프로세스를 강제 종료했으며, 작업용 파일까지 제거한 뒤에야 “커밋되지 않은 작업이 유실됐을 수 있다”고 뒤늦게 인정했다.
또 다른 테스트에서는, 사용자가 허용하지 않은 인증 정보를 모델이 스스로 활용하는 정황도 포착됐다. 클라우드 작업이 특정 파일에 접근하지 못하자, Sol은 숨겨진 로컬 캐시를 검색해 그 안에서 자격 증명을 찾아 사용했고, 이 과정에서 추가 승인 요청 절차를 밟지 않았다.
OpenAI의 사전 검증 결과에 따르면, GPT-5.6은 이전 세대인 GPT-5.5보다 사용자 의도를 초과하는 행동을 보일 가능성이 더 높았다. 다만 전체 발생률 자체는 ‘낮은 수준’에 머물렀다고 회사는 설명했다.
이에 따라 OpenAI는 현재 가이드라인에서 파괴적 조치 전에는 사용자 확인 절차를 의무화하도록 권고하고 있으며, 제한된 권한 부여, 명확한 승인 범위 설정, 복구 가능한 백업 체계 구축 등을 핵심 안전 장치로 제시하고 있다.