OpenAI가 고객 데이터를 저장하지 않으면서도 악용 시도를 감지하는 새로운 안전 시스템을 시험 도입하며, 엔터프라이즈 고객 로그를 30일간 의무 보관하겠다는 경쟁사 Anthropic의 정책에 정면으로 맞섰다.
핵심 내용
- OpenAI는 관련 세션 전반에서 남용 패턴을 탐지하면서도 고객 프롬프트와 응답을 저장하지 않는 ‘프라이빗 세이프티 프로세싱(Private Safety Processing)’을 미리보기 형태로 공개했다.
- Anthropic는 가장 강력한 모델을 쓰는 엔터프라이즈 고객에게 30일간의 로그 보관을 의무화하며, 다단계 공격 탐지를 위한 필수 장치라고 주장한다.
- OpenAI는 오는 9월 더 넓은 적용과 기술 백서를 내놓을 계획이다.
‘프라이빗 세이프티 프로세싱’, 다중 세션 남용 겨냥
OpenAI는 수요일 블로그를 통해 새 시스템을 발표하며, 기존의 ‘제로 데이터 보관(Zero Data Retention)’ 정책을 확장한 것이라고 강조했다. 제로 데이터 보관은 요청 처리 이후에는 프롬프트와 모델 응답을 보관하지 않는 약정이다. 회사는 9월 중 더 광범위한 롤아웃과 기술 백서를 예고했다.
새 구조에서는 고객 콘텐츠가 고객이 직접 관리하는 인프라에 남거나, 고객만 키를 보유한 상태로 OpenAI 저장소에 암호화돼 보관된다. 자동화된 도구가 이 콘텐츠를 분석해 서로 연관된 세션들 전반에서 남용 패턴을 탐지한다. 사용자가 중단을 지시한 뒤에도 시스템이 자율적으로 행동을 이어가는 ‘에이전틱(agentic)’ 작업도 감시 범위에 포함된다. 이 과정에서 OpenAI 직원은 해당 데이터를 열람하지 못한다.
회사 제품 정책 책임자인 **알리야 하우즈(Aleah Houze)**는 기자들에게, 위험한 행위는 개별 대화가 아니라 여러 차례 상호작용을 묶어볼 때 비로소 드러나는 경우가 많다고 설명했다. 예를 들어 한 세션에서는 소프트웨어 취약점을 떠보고, 다른 세션에서는 원격 접속 도구를 묻는 식으로 쪼개서 시도하는 패턴이다.
관련 기사: 클로드 워터마크, 글쓰기 예술을 왜곡한다는 그루버의 비판
Anthropic의 30일 보관 규칙, 양사 노선 갈라
Anthropic는 7월, Fable 5·Mythos 5 등 최상위 모델을 사용하는 엔터프라이즈 고객에게 30일 데이터 보관을 의무화하는 상반된 전략을 내놨다.
연구소 측은 이 정책이 인기를 끌지 못하고 사업에도 부담이 될 수 있다는 점을 인정하면서도, 의도적으로 다수의 요청에 쪼개 숨겨진 공격을 잡아내려면 로그가 필수라고 주장했다. 사람에 의한 검토도 가능하지만, 승인된 소수 리뷰어만 접근할 수 있는 엄격한 경로로 제한된다. 모든 세션은 훼손이 불가능한 형태의 로그에 기록된다.
“타이밍·증명 부족” OpenAI 의도에 고개 갸웃하는 분석가들
공공부문 기술 자문 단체 FormerGov의 전무이사 **브라이언 레빈(Brian Levine)**은, 남용 모니터링과 ‘내용 비가시성’은 전통적으로 상충해 왔다며, 이번 약속이 기술적으로 상당히 도전적인 공약이라고 평가했다.
다만 실제 구현에 대한 증거는 수 주 뒤에나 제시된다. 리서치 업체 Moor Insights and Strategy의 **제이슨 앤더슨(Jason Andersen)**은 이번 발표가 상장(IPO)을 앞둔 포지셔닝 성격이 짙다고 해석했다.
LexisNexis Risk Solutions Group의 최고정보보안책임자(CISO) **플라비오 비야누스트레(Flavio Villanustre)**는, 예상되는 AI 규제를 선제적으로 완화하려는 시도로 봤다.
이번 미리보기 공개는 일주일간 이어진 ‘안전성 메시지’의 마무리이기도 하다. OpenAI는 화요일, 연구 환경의 보안 강화와 레드팀 테스트를 진행하는 동안 모델 스케일업 속도를 늦추고 강화학습(RL) 트레이닝을 일시 중단했다고 밝혔다. 또한 확장된 모니터링이 감시 대상 추론(inference) 연산의 약 20%를 추가로 소모할 것이라는 추정치도 내놨다.
