오픈AI가 고객 데이터를 저장하지 않으면서도 오남용을 탐지하는 새로운 안전 시스템을 시험 가동하며, 경쟁사 **앤트로픽(Anthropic)**의 ‘30일 의무 보관’ 규칙에 정면으로 도전하고 있다.
핵심 요지
- 오픈AI는 여러 연관 세션을 가로지르는 이상 징후를 찾되 고객 프롬프트·응답을 전혀 남기지 않는 ‘프라이빗 세이프티 프로세싱(Private Safety Processing)’을 미리보기 형태로 공개했다.
- 앤트로픽은 자사 최상위 모델을 쓰는 엔터프라이즈 고객에게 30일간 로그 보관을 요구하며, 다단계 공격을 잡아내기 위한 필수 장치라고 설명한다.
- 오픈AI는 9월 중 더 넓은 롤아웃과 기술 백서를 내놓을 계획이다.
‘프라이빗 세이프티 프로세싱’, 다중 세션 악용 정조준
오픈AI는 수요일 공식 발표를 통해 이번 미리보기가 기존 ‘제로 데이터 리텐션(Zero Data Retention)’ 체계를 확장한 것이라고 밝혔다. 제로 데이터 리텐션은 요청 처리가 끝나는 즉시 프롬프트와 모델 응답을 저장하지 않는 구조다. 보다 넓은 고객군 대상으로의 확대와 기술적 세부를 담은 백서는 9월 공개를 예고했다.
새 시스템 아래에서는 고객 콘텐츠가 고객이 직접 관리하는 인프라에 머물거나, 고객이 단독으로 관리하는 키로 암호화된 형태로 오픈AI 스토리지에 보관된다. 자동화 도구가 이 콘텐츠를 살펴보며 서로 연관된 세션 전반에서 오남용 패턴을 탐지한다. 사용자가 중단을 지시한 뒤에도 에이전트형 시스템이 계속 동작할 수 있는 ‘에이전틱(agentic) 작업’까지 설계 범위에 포함된다. 이 과정에서 사람 직원이 콘텐츠를 직접 열람하는 일은 없다고 회사는 강조한다.
회사 제품 정책 총괄인 **알리아 하우즈(Aleah Houze)**는 기자들에게, 위험한 행위는 개별 대화 하나만 보면 드러나지 않고 여러 차례 상호작용을 묶어 봐야 비로소 패턴이 보이는 경우가 많다고 설명했다. 예컨대 한 세션에서는 특정 소프트웨어 취약점을 떠보는 질문을, 다른 세션에서는 원격 접속 도구 사용법을 묻는 식으로 나눠 질문하는 경우다.
관련 기사: 클로드의 숨은 워터마크, ‘글쓰기 예술을 왜곡한다’는 그루버의 비판
‘30일 보관’ 고수하는 앤트로픽, 노선 분명히 갈려
앤트로픽은 7월, 자사 최상위 모델인 Fable 5와 Mythos 5 등을 사용하는 엔터프라이즈 고객에게 30일간의 데이터 보관을 의무화하는 반대 방향의 정책을 내놨다.
연구소 측은 이 정책이 인기가 없을 것이고 사업에도 부담이 될 수 있음을 인정하면서도, 의도적으로 여러 건의 요청에 나눠 퍼뜨려 감행되는 공격을 적발하기 위해서는 로그가 필수라고 주장했다. 제한된 소수의 승인된 리뷰어만 접근하는 통제된 절차 하에 한해 인적 검토도 가능하다. 모든 세션은 훼손이 불가능한 형태로 기록된다.
“타이밍과 검증이 관건”이라는 시장의 시선
공공정책 싱크탱크 **포머거브(FormerGov)**의 전무이사 **브라이언 레빈(Brian Levine)**은 이번 약속이 기술적으로 상당히 야심 찬 시도라고 평가했다. 오남용 모니터링과 콘텐츠 비저장 원칙은 그동안 상충 관계에 있었기 때문이다.
다만 실제 검증은 몇 주 뒤에나 가능하다는 점을 짚었다. 리서치사 **무어 인사이트 & 스트래티지(Moor Insights and Strategy)**의 **제이슨 앤더슨(Jason Andersen)**은 이번 일련의 발표를 상장(IPO)을 앞둔 사전 포지셔닝의 성격도 읽힌다고 분석했다.
**렉시스넥시스 리스크 솔루션 그룹(LexisNexis Risk Solutions Group)**의 CISO인 **플라비오 빌라누스트레(Flavio Villanustre)**는, 오픈AI가 앞으로 예상되는 강한 규제를 완화하기 위한 선제적 제스처를 취하고 있는 것으로 봤다.
이번 미리보기 발표는 일주일 내내 이어진 ‘안전’ 메시지의 마무리 성격이다. 오픈AI는 하루 전인 화요일, 연구 환경을 강화하고 레드팀을 확대하는 동안 모델 스케일링 속도를 늦추고 강화학습(RL) 훈련을 일시 중단했다고 밝혔다. 또한 확장된 모니터링 기능이 감시 대상 추론(inference) 자원의 약 20%를 소모할 것으로 추산했다.
