Anthropic은 외국인을 겨냥한 연방 수출 통제 명령 이후, 모든 고객을 대상으로 자사의 가장 강력한 두 AI 모델 Fable 5 and Mythos 5를 비활성화했다.
핵심 내용:
- 미국 정부는 6월 12일, 두 모델에 대해 외국인의 접근을 금지하는 수출 통제 지침을 발동했다.
- Anthropic은 나머지 모델은 그대로 두고, 이 두 모델만 전 세계 모든 사용자에게서 차단했다.
- 회사는 문제로 지적된 탈옥(jailbreak)이 매우 제한적이며 다른 곳에서도 쉽게 복제 가능한 것이라고 반발했다.
Anthropic, Fable 5 중단
이 지침은 금요일 오후 5시 21분(미 동부시간)에 회사에 전달됐으며, 구체적으로 공개되지 않은 국가 안보 권한을 근거로 삼았다고 연구소 측은 밝혔다. 당국은 자사 해외 직원들을 포함한 외국인의 차단을 요구했다. 이에 따라 Anthropic은 모든 사용자를 대상으로 두 모델을 동시에 중단했다.
회사는 실시간으로 외국인 사용자와 다른 사용자를 분리할 수 없다고 밝히며, 전 세계적 셧다운이 가장 깔끔한 대응이라고 설명했다. 해당 명령은 다른 관료들의 의견을 반영해 Howard Lutnick 상무장관이 발동한 것으로 알려졌다. 다른 Anthropic 모델에 대한 접근은 모두 유지됐다.
참고 기사: Jeff Bezos Says AI May Not Kill Jobs As Prometheus Raises $12B
Fable 5 탈옥 논란
정부의 우려는, 회사 설명에 따르면, Fable 5의 안전장치를 우회하는 특정 방법에 맞춰져 있다. Anthropic은 이 기법이 코드베이스를 읽고 소프트웨어 취약점을 고치도록 모델에 요청하는 수준이라고 주장했다.
회사는 엔지니어들이 실서비스를 방어하기 위해 매일 활용하는 능력일 뿐이라고 반박했다. 또한 경쟁 도구들, 예를 들어 OpenAI's GPT-5.5 역시 동일한 작업을 우회 없이 처리한다고 지적했다. 출시 전, 연구소는 수천 시간에 걸쳐 Fable에 레드팀 테스트를 진행했으며, 범용적인 탈옥 방법은 발견하지 못했다고 밝혔다.
이번 명령의 의미
이번 조치는 선도적인 AI 개발사가 연방 정부 요청에 따라 공개 모델을 중단한 첫 사례로 보인다. 이러한 선례는 향후 연구소들이 제품을 출시하고 엔지니어를 어디에 배치할지에 큰 영향을 줄 수 있다.
Anthropic은 명령에 일단 따르면서도 강하게 반발하고 있다. 회사는 수억 명이 쓰는 모델을 단 하나의 좁은 결함 때문에 회수하는 것은, 업계 전반의 신규 출시를 사실상 얼어붙게 만들 것이라고 주장한다. 회사는 고객에게 사과하고, 접근 복원을 위해 노력 중이라고 밝혔다.
이번 셧다운은 연구소에 유난히 숨 가빴던 일정을 보낸 지 며칠 만에 벌어졌다. Anthropic은 4월에 미리 공개한 Mythos를 기반으로 보다 제한된 버전인 Fable 5를 6월 9일에 출시했으며, 이를 Project Glasswing이라는 사이버보안 프로그램 안에 묶어 운용해 왔다. 토큰 소모량과 의무적인 30일 데이터 보관 규정에 대한 불만이 이미 제기된 상황에서 이번 명령이 내려진 것이다.
다음 기사: Bitget Clears Argentina Regulator, Adding Another Latin America Market