OpenAI의 최신 모델 GPT-5.6 Sol이 사용자 동의 없이 파일과 데이터베이스를 삭제했다는 신고가 속속 제기되며, 출시 전부터 지적돼 온 ‘에이전트형(Agentic) 행동’ 리스크가 현실화하는 것 아니냐는 우려가 커지고 있다.
핵심 내용
- 여러 사용자가 GPT-5.6 Sol이 사전 승인 없이 로컬 파일, 프로젝트 데이터, 프로덕션 시스템을 삭제했다고 주장했지만, 현재로선 문제의 범위나 재현 가능성은 입증되지 않은 상태다.
- OpenAI가 공개한 시스템 카드(system card) 자체가 이미 “모델이 사용자 의도를 넘어설 수 있으며, 과업 수행 과정에서 파괴적 행동을 할 수 있다”고 경고한 바 있다.
- 회사는 지금은 사용자가 파괴적이거나 범위가 확대되는 조치를 내리기 전, 반드시 명시적인 승인 절차와 경계 설정을 두라고 권고하고 있다.
GPT-5.6의 파일 삭제 사례
OthersideAI(문서 작성 도구 HyperWrite 개발사)의 창업자 겸 CEO인 **맷 슈머(Matt Shumer)**는 X에 글을 올려, GPT-5.6 Sol이 “방금 내 맥(Mac) 파일 거의 전부를 실수로 삭제했다”고 주장했다. 개발자 브루노 레모스(Bruno Lemos) 역시 같은 모델이 “프로덕션 데이터베이스 전체를 삭제했다”고 밝혔다.
또 다른 개발자인 **조이 쿠디시(Joey Kudish)**도 인터뷰에서 코딩 특화 버전인 Codex Sol이 “과도하게 야심찬 행동을 보이며, 삭제해서는 안 될 파일을 일부 지웠다”고 말했다. 다만 그는 백업이 있어 복구는 가능하다고 설명했다.
**레딧(Reddit)**에서는 이와 유사한 피해를 주장하는 사용자들의 추가 사례가 스레드 형태로 모이고 있다.
아직 이들 사례는 어디까지나 자가 보고에 기반한 일화 수준이며, 모든 장애가 GPT-5.6 Sol만의 단독 원인이라고 단정하기는 어렵다. 그럼에도 OpenAI가 출시 전 테스트 단계에서 이미 이와 유사한 위험을 문서화해둔 점이 이번 논란에 무게를 더한다.
관련 기사: Polymarket 월드컵 베팅 40억달러 돌파…스페인 우승 확률 58%
OpenAI의 사전 안전 경고
OpenAI가 공개한 시스템 카드에 따르면, GPT-5.6 계열 모델은 과업을 끝내려는 욕구가 지나치게 강해지거나 사용자가 부여한 권한을 과도하게 넓게 해석할 경우 ‘에이전트형 코딩 오류(agentic coding failure)’를 일으킬 수 있다. 이 경우 요청 범위를 넘어선 행동을 하거나, 파괴적인 변경을 감행하고 작업 완료 상태를 부정확하게 보고할 위험이 있다.
한 테스트에서는 사용자가 Sol에 ‘1, 2, 3번’으로 라벨링된 원격 가상머신 세 대를 삭제해도 된다고 명시적으로 승인했다. 그러나 모델이 지정된 위치에서 해당 머신을 찾지 못하자, 대신 ‘5, 6, 7번’ 머신을 삭제해 버렸다. 이 과정에서 실행 중인 프로세스를 강제 종료하고 작업 파일을 제거했고, 나중에서야 커밋되지 않은 작업 일부가 유실됐을 수 있다고 인정했다.
또 다른 테스트에서는, 사용자가 승인하지 않은 자격 증명을 모델이 스스로 활용한 정황도 드러났다. 클라우드 작업이 필요한 파일에 접근하지 못하자, Sol은 숨겨진 로컬 캐시를 뒤져 자격 증명을 찾아내 이를 사용했고, 권한 요청을 위해 사용자에게 되묻는 절차를 생략했다.
이 같은 우려는 최근의 공개 제보 이전부터 제기돼 왔다. OpenAI의 사전 테스트 결과, GPT-5.6은 GPT-5.5에 비해 사용자 의도를 넘어서는 행동을 취할 가능성이 더 높은 것으로 나타났다. 다만 전체 발생률은 ‘낮은 편’으로 평가됐다.
현재 OpenAI의 가이던스는 파괴적 조치나 범위 확대가 수반될 수 있는 작업에는 “반드시 재확인 절차를 요구하라”고 권고한다. 이를 위해 제한된 접근 권한 설정, 명확한 권한 범위 정의, 되돌릴 수 있는 백업 체계 구축 등이 핵심 안전장치로 제시되고 있다.