Anthropic은 외국인을 대상으로 한 연방 수출 통제 명령 이후, 모든 고객에 대해 자사의 가장 강력한 두 AI 모델인 Fable 5 and Mythos 5의 사용을 중단했다.
핵심 요약:
- 미국 정부는 6월 12일, 두 모델 모두에 대해 외국인의 사용을 금지하는 수출 통제 지침을 발령했다.
- Anthropic은 나머지 모델은 그대로 유지한 채, 두 모델만 전 세계 모든 사용자에 대해 셧다운했다.
- 회사는 정부 명령에 이의를 제기하며, 문제로 지적된 탈옥 기법은 범위가 매우 좁고 다른 곳에서도 쉽게 복제할 수 있다고 주장했다.
Anthropic, Fable 5 중단
회사에 따르면, 해당 지침은 금요일 오후 5시 21분(미 동부시간)에 전달되었으며, 구체적으로 밝히지 않은 국가 안보 권한을 근거로 들었다고 한다. 당국은 자사 해외 직원들을 포함해 외국인의 접근을 차단하길 원했다. 이에 따라 Anthropic은 두 모델을 모든 이용자에 대해 완전히 종료하는 방식으로 대응했다.
회사는 밝히기를, 실시간으로 외국인 사용자와 그 외 사용자를 분리할 수 있는 방법이 없어, 전 세계적인 셧다운이 가장 깔끔한 대응이라고 설명했다. 이 명령은 다른 당국자들의 의견을 반영해 작성된, 상무장관 Howard Lutnick의 지시에서 비롯되었으며, 다른 Anthropic 모델들에 대한 접근은 그대로 유지되었다.
관련 기사: Jeff Bezos Says AI May Not Kill Jobs As Prometheus Raises $12B
Fable 5 탈옥 논란
회사에 따르면, 정부의 우려는 Fable 5의 안전장치를 우회하는 한 가지 방법이 있다는 주장에 초점이 맞춰져 있다. Anthropic은 그 기법이 사실상 모델에게 코드베이스를 읽고 소프트웨어 결함을 고치도록 요청하는 수준이라고 설명했다.
회사는 엔지니어들이 실서비스를 방어하기 위해 매일 활용하는 능력이라며 반박했다. 또한 지적하기를, OpenAI's GPT-5.5를 포함한 경쟁 도구들도 동일한 작업을 수행하지만, 별도의 우회 논란 없이 운영되고 있다고 했다. 출시 전, 연구소는 수천 시간에 걸쳐 Fable을 레드팀 테스트했으며, 보편적으로 통하는 탈옥 기법은 발견하지 못했다고 밝혔다.
이번 명령의 의미
이번 조치는 선도적인 AI 개발사가 연방 정부의 요청에 따라 퍼블릭 모델을 오프라인으로 내린 첫 사례로 보인다. 이러한 선례는 연구소들이 제품을 출시하는 방식과, 엔지니어를 어디에 배치할지에 큰 영향을 미칠 수 있다.
Anthropic은 명령에 따르면서도 강하게 반발했다. 수백만 명이 사용하는 모델을 단일하고 좁은 결함 때문에 회수하는 전례는, 업계 전반의 신규 출시를 얼어붙게 만들 수 있다는 입장이다. 회사는 고객들에게 사과하며, 접근 재개를 위해 노력 중이라고 밝혔다.
이번 셧다운은 연구소에 특히 숨 가빴던 며칠 직후에 이루어졌다. Anthropic은 4월에 미리 선보인 Mythos를 기반으로 한 강화 버전으로서, 6월 9일 Fable 5를 출시했다. Mythos는 Project Glasswing이라는 사이버보안 프로그램 내부에서만 운용되어 왔다. 이번 명령이 떨어지기 전부터, 출시 과정에서는 토큰 소모량 증가, 의무 30일 데이터 보존 규정 등과 관련한 불만이 제기되고 있었다.
다음 읽기: Bitget Clears Argentina Regulator, Adding Another Latin America Market