**오픈AI(OpenAI)**와 **메타(Meta)**가 연방 판사들에게 “AI가 만들어낸 음성·영상(딥페이크)을 가려내는 기술은 구조적으로 완벽해질 수 없다”고 공개적으로 경고했다. 다만 미국 연방판사 931명을 대상으로 한 설문에서 딥페이크 관련 증거 다툼을 실제로 겪은 이는 15명에 불과해, 우려와 현실 사이의 온도차도 드러났다.
핵심 포인트
- 오픈AI·메타, 보스턴 연방 증거규칙 패널에 “AI 생성 음성·영상의 진위 검증이 점점 더 어렵다”고 증언
- 오픈AI 측 “워터마크·탐지기 모두 영구적으로 신뢰할 수준이 되긴 어렵다”
- 판사들은 딥페이크 규칙 초안을 검토 중이지만, 아직 채택은 보류
오픈AI “워터마크도 만능 아니다”
두 회사는 10월 15일 보스턴에서 열린 미국 사법회의 증거규칙자문위원회 회의에서 관련 우려를 발표했다. 이 패널은 2023년부터 딥페이크 증거 문제를 논의해 왔다.
오픈AI 정책 자문 변호사 **시라 앤더슨(Shira Anderson)**은 “AI 이미지의 품질이 계속 높아지고 있어, 과학적으로 완벽하게 가려낼 수 있는 탐지 기법은 앞으로도 등장하기 어렵다”고 위원들에게 말했다. 캘리포니아주와 EU는 이미 AI 생성물에 워터마크(식별 표시)를 의무화하는 법을 도입했지만, 회사별로 제각각인 워터마크 체계 탓에 “모든 시각 콘텐츠를 일괄 검증할 수 있는 단일 표준은 존재하지 않는다”고 지적했다. 그는 향후 등장할 탐지 도구도 “결코 ‘방탄(bulletproof)’ 수준의 완전성을 보장하진 못할 것”이라고 선을 그었다.
메타 제품관리 디렉터 데빈 노더(Devin Norder) 역시 최신 AI 모델이 만들어낸 콘텐츠는 “사람 눈으로는 진짜와 구별하기 매우 어렵다”고 강조했다. 제작 비용과 시간 역시 급감해, “누구나 짧은 시간과 적은 비용으로 고품질 딥페이크를 양산할 수 있는 환경”이 이미 조성됐다고 설명했다.
참고 기사: 비트코인 8만 달러 지지…8만7천 달러 재도전 전 숨 고르기?
‘딥페이크 규칙’ 검토하는 제시 퍼먼 판사
뉴욕 맨해튼 연방지방법원의 제시 퍼먼(Jesse Furman) 판사는 해당 패널 의장으로서, 학계에서 제기하는 “법정을 휩쓰는 딥페이크 쓰나미” 전망은 아직 현실에선 제한적이라고 진단했다. 그의 판단은 통계에서도 확인된다. 연방사법센터(FJC)가 3월 실시한 설문에 따르면, 응답한 연방판사 931명 가운데 증거가 딥페이크라는 이유로 이의를 제기받은 경험이 있는 판사는 15명뿐이다.
퍼먼 판사는 이 문제를 더 깊이 들여다보기 위해 소위원회를 구성했다. 소위는 ‘규칙 901(c)’라는 개정안을 초안 형태로 마련했지만, 아직 채택하지는 않았다. 초안에 따르면, 먼저 “해당 자료가 조작·위조된 딥페이크”라고 주장하는 쪽이 어느 정도 근거를 제시해야 하며, 그 이후에야 상대방에게 “해당 자료가 진본일 개연성이 더 크다”는 점을 입증할 책임이 넘어가게 된다.
소위 내부에선 신중론도 만만치 않다. 연방지방법원 판사 **밸러리 카프로니(Valerie Caproni)**는 “딥페이크를 명시적으로 겨냥한 별도의 규칙을 서둘러 만들 필요가 있는지”에 의문을 제기했다. 법원이 허위·조작된 증거와 싸워온 역사는 길고, 이미 위증과 문서 위조를 처벌하는 각종 법률과 절차가 존재하는 만큼, 딥페이크라고 해서 완전히 다른 문제로 볼 수 있느냐는 것이다.
실제로 패널은 2025년 5월, 법학자들이 제안한 딥페이크 전용 규칙을 도입하지 않기로 결정했다. 당시 다수 위원은 “현행 ‘증거의 진정성(authenticity)’ 기준만으로도 AI 생성 증거를 다루는 데 충분하다”는 입장이었다.
AI 증거로 집행 소송 기각된 캘리포니아 사례
그러나 이후 법정 현장에선 AI 생성 증거를 둘러싼 충돌이 서서히 모습을 드러내고 있다. 캘리포니아 앨러미다 카운티 상급법원의 빅토리아 콜라콥스키(Victoria Kolakowski) 판사는, 원고 측이 AI가 만들어낸 증인 영상물을 실제 증언 영상인 것처럼 제출한 사실을 확인하고 해당 주택 관련 소송을 기각했다.
이 사건은 “딥페이크 공포”가 아직 통계적으로는 소수 사례에 머물지만, 실제 법정에 투입되는 순간 사건 자체를 뒤흔들 수 있음을 보여준다. 동시에 기존 증거규칙만으로 얼마나 효과적으로 대응할 수 있는지, 혹은 AI 시대에 맞는 별도 프레임이 필요한지에 대한 논쟁도 더 뜨거워질 전망이다.
다음 읽을 거리: 암호화폐 39.6% 급등의 그늘: 현물 매수세는 왜 못 따라가나
