데이비드 색스 백악관 기술 고문은 트럼프 행정부가 Fable AI 모델에서 보고된 탈옥(jailbreak)을 패치하지 않으려 한 이후 Anthropic에 대한 수출 통제를 부과했다고 말했다.
색스, 앤트로픽 명령 세부 내용 설명
토요일 X(옛 트위터) 게시글에서 색스는, Fable을 테스트하던 신뢰할 수 있는 파트너가 사이버 보안 용도를 차단하기 위해 마련된 가드레일을 우회하는 방법을 발견했다고 적었다. 이후 행정부는 앤트로픽 CEO 다리오 아모데이에게 해당 문제를 해결하거나 모델을 회수하라고 요구했다.
색스에 따르면 아모데이는 이를 거부했다.
이 갈등은 안전 가드레일을 장착한, 더 강력한 시스템 Mythos 5의 버전인 Anthropic의 6월 9일자 Fable 5 출시 직후에 벌어졌다. 이후 하워드 루트닉 상무장관은 두 모델 모두에 대해 외국인의 이용을 금지했으며, 앤트로픽은 전 세계에서 해당 모델들을 비활성화했다.
또 읽어보기: Bitcoin Bulls Eye $67K After Trump Says Hormuz Will Open To All
앤트로픽, 탈옥 심각성에 이견 제기
앤트로픽은 블로그 글을 통해 반박에 나섰다. 회사는 매우 제한적인 탈옥 문제가 수백만 명이 사용하는 모델의 리콜을 강제할 정도로 심각하다고 보지 않는다고 밝히며, 경쟁사 시스템 역시 같은 방식으로 악용될 수 있다고 주장했다.
색스는 수출 통제 조치는 어쩔 수 없는 선택이었으며, 정부는 앤트로픽이 취약점을 수정해 Fable이 다시 돌아오길 바랐다고 말했다. 그는 또한 이번 조치가 과거의 마찰과는 무관하다고 부인했다. 앞서 3월, 미 국방부는 앤트로픽을 공급망 리스크로 지정했으며, 앤트로픽은 현재 이 지정을 연방법원에서 다투고 있다.
다음 읽기: Index Rules Turn SpaceX's $2T Debut Into A Market Stress Test