테크 칼럼니스트 존 그루버가 약 190개 기관이 서명한 EU 주도 코드에 따라 Anthropic가 모든 Claude 응답에 워터마크를 삽입하기로 한 결정을 정면으로 비판하고 나섰다.
핵심 내용
- 그루버는 워터마크가 글의 정밀한 단어 선택을 탐지 가능성에 내주게 만들며, 결국 “글쓰기의 본질을 훼손한다”고 지적했다.
- 앤스로픽은 자사의 방식이 구글 딥마인드 SynthID-Text를 따른 것이며 산출물의 품질에는 실질적 영향이 없다고 주장한다.
- 일부 유료 구독자는 해지를 선택하고 있으나, 예고된 탐지 서비스는 아직 출시 일정조차 나오지 않은 상태다.
그루버, 클로드 워터마크에 “글쓰기의 타락” 직격
그루버는 일요일에 게재한 글에서 이 시스템이 “글쓰기라는 장인의 공정을 오염시킨다”고 주장했다. 그는 목표 자체가 아니라 구현 방식에 문제를 제기한다.
워터마크는 문장 안에서 두세 개의 단어 후보 모두 맥락에 들어맞는 시점마다, 특정 단어를 택하도록 클로드의 선택을 미세하게 틀어준다. 하지만 어느 두 동의어도 의미가 완전히 같지 않다는 점에서, 그루버는 이 조정이 문장 뉘앙스를 왜곡한다고 본다. 비공개 대화 역시 공개 글과 동일한 방식으로 처리된다.
그는 또한 유럽 규정 자체도 실효성이 떨어진다고 본다. 숨기려는 의도가 있는 사용자는 결과물을 간단한 재작성 도구에 한 번만 돌려도 흔적을 사실상 지워버릴 수 있기 때문이다.
그루버의 평가는 단호했다. 그는 이번 조치를 “글쓰기의 타락(a perversion of writing)”이라고 규정했다.
관련 기사: 아이폰 울트라, 1,000만대 주문 여파로 출시 직후 심각한 공급난
앤스로픽 “SynthID 방식, 품질 영향 미미” 방어
앤스로픽은 8월 14일 게시한 설명 자료에서 이번 방식이 Google DeepMind의 SynthID-Text를 차용한 것이며, 달라진 것은 “저위험 단어 선택을 결정하는 무작위성의 출처”뿐이라고 밝혔다.
회사 측은 이 기법이 “클로드 출력의 품질이나 내용에 실질적인 영향을 주지 않는다”고 주장한다. 유일한 정답이 있는 경우(산술 계산, 동작하는 코드 등)에는 워터마크를 위한 개입을 하지 않도록 설계했다고 강조했다. 반면 코드 안에 숨겨진 주석은 워터마크 삽입 대상에 포함된다.
아울러 워터마크에는 개인, 조직, 특정 대화로 소급 가능한 식별 정보가 전혀 포함돼 있지 않다고도 거듭 강조했다. 검증에는 앤스로픽이 보유한 비밀 키가 필요하며, 회사 외부에서는 해당 키 없이는 아무것도 확인할 수 없다.
이 때문에 예고된 탐지 서비스가 출시되기 전까지는 제3자가 독자적으로 검증할 방법이 없다. 출시 시점도 아직 정해지지 않았다. 텍스트 분량이 짧을수록 선택된 단어 수가 적어져 통계적 신뢰도가 떨어지므로, 탐지 정확도 역시 낮아진다.
앤스로픽은 교열, 요약, 번역 같은 2차 작업을 거치더라도, 출발점이 된 타인의 글에 워터마크가 남을 수 있음을 인정했다.
한편 다수 유료 구독자가 이번 주 들어 구독을 취소하기 시작했다. 이들은 워터마크를 “지워지지 않는 낙인(scarlet letter)”에 비유하며, 가벼운 문장 손질 정도로는 제대로 제거되지 않는다고 호소한다.
워터마크 도입 시간표와 규제 배경
논란은 약 2주에 걸쳐 증폭됐다. EU AI 법안(인공지능법) 제50조의 투명성 의무가 8월 2일부터 발효되면서, 최대 1,500만 유로 또는 전 세계 연 매출의 3%에 달하는 과징금이 부과될 수 있게 됐다. 앤스로픽은 이에 대응해 클로드의 출력 전체에 워터마크를 적용하는 조치를 글로벌로 확대했다.
EU 규정 이행 상황은 8월 11일자 보도를 통해 외부에 알려졌다. 이후 앤스로픽은 먼저 지원 문서를 개정했고, 초기 문서가 “실제 내용이 없다”는 비판이 나오자 8월 14일 보다 기술적인 설명 자료를 추가로 공개했다.
그루버의 비판 글은 그로부터 이틀 뒤에 나왔다. 이어 하루도 지나지 않아 구독 해지 사례가 언론에 보도되면서, 유료 사용자 신뢰 문제가 본격적으로 수면 위로 떠올랐다.
현재 구버전 클로드 모델에는 여전히 워터마크가 적용되지 않고 있다. 다만 앤스로픽은 “향후 수개월에 걸쳐 이전 모델에도 워터마크 지원을 순차적으로 확대하겠다”고 예고했다.
