**앤스로픽(Anthropic)**은 2026년 6월 초 보고서를 발표하고, 인공지능 선도 연구소들이 안전 조건이 악화될 경우 advanced AI development를 늦추거나 중단할 수 있는 공동 메커니즘을 마련하라고 촉구했다.
핵심 요지
- 앤스로픽은 AI 시스템이 재귀적으로 스스로를 개선할 수 있는 문턱에 다가가고 있다고 경고하는 보고서를 발표했다.
- 회사는 주요 AI 연구소들이 안전 위험이 고조될 경우 개발을 늦추거나 중단할 수 있는 공조 메커니즘을 준비하자고 촉구했다.
- 앤스로픽은 빠른 진전이 인간이 AI 행동을 감시하고 교정할 수 있는 능력을 앞질러 버릴 수 있다고 경고했다.
- 이번 촉구는 앤스로픽의 클로드(Claude) 모델이 개발 과정에서 자체 코드를 일부 작성했다는 보도에 이은 것이다.
- 이 보고서는 미국 의회가 새로운 AI 안전 관련 법안을 검토하는 가운데, 더 넓은 정책 논쟁에 불을 붙이고 있다.
알자지라는 AI 시스템이 인간 엔지니어가 감시·개입할 수 있는 속도보다 더 빠르게 자신을 설계·개선할 수 있는 문턱에 다가가고 있다고 경고하는 이 문서를 보도했다. 앤스로픽은 이러한 재귀적 자기개선(dynamic)을 먼 미래의 가설적 위험이 아니라, 실질적인 단기 위험으로 묘사했다.
앤스로픽 보고서의 핵심 내용
핵심 주장은 기술적이며 구체적이다. 앤스로픽은 현행 AI 학습 파이프라인이 이미 제한적 방식으로 모델이 자신의 개선에 기여하도록 허용하고 있다고 주장한다. 회사의 대표 모델인 클로드는 개발 주기 동안 자체 코드를 일부 작성한 것으로 알려졌다.
보고서는 즉각적인 개발 중단을 요구하지 않는다. 대신 ‘준비’를 요구한다. 앤스로픽은 자사 포함 최전선 연구소들이 사전에 ‘일시 중단’을 발동시키는 트리거에 합의하고, 이를 신속히 실행할 인프라를 마련하자고 제안한다.
이러한 문제 제기는 앤스로픽이 그동안 보여온 공적 입장과도 일관된다. 이 회사는 강력한 AI를 개발하는 동시에 안전 장치를 구축하는 것이 책임 있는 경로라며, 이를 “책임 있는 확장(responsible scaling)”이라고 불러 왔다. 이번 보고서는 이 방정식에서 안전 측면의 속도를 더 끌어올려야 한다는 의미에 가깝다.
문서는 또한 누가 이런 ‘일시 중단’을 조정할 것인가라는 질문을 던진다. 현재 AI 개발을 강제력 있게 규율하는 국제 거버넌스 기구는 존재하지 않는다. 보고서는 사실상 민간 기업 간의 자발적 공조를 요청하는 셈인데, 비평가들은 이를 가장 약한 수준의 집행 모델이라고 지적한다.
함께 읽기: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
워싱턴 정책 환경
앤스로픽의 경고는 한창 진행 중인 의회의 논쟁 한가운데에서 나왔다. 이번 주 회람되고 있는 초당적 하원 논의 초안은 미국 내 가장 강력한 AI 개발사들에 안전 의무와 독립 감사를 부과하는 내용을 담고 있다. 이 법안은 앤스로픽, 오픈AI(OpenAI), 구글 딥마인드(Google DeepMind) 등을 포함하는 ‘프런티어 연구소’를 직접 겨냥한다.
별도의, 보다 포괄적인 AI 법안은 2026년 6월 4일 하원 위원회를 통과했다. 이 법안은 연방 표준이 마련되는 3년 동안, 주(州) 차원의 AI 소비자 보호법을 동결하는 내용을 담고 있다.
트럼프 행정부는 여기에 또 다른 복잡성을 더했다. 백악관은 이번 주 행정명령을 통해 프런티어 AI 모델에 대해 30일짜리 자발적 사전 검토 기간을 신설해, 공개 배포 이전에 국가 안보 기관이 조기 접근할 수 있도록 했다. 또한 행정부는 오픈AI에 대한 정부 지분 참여 가능성을 두고 회사와 논의 중인 것으로 전해진다.
앤스로픽의 ‘일시 중단 메커니즘’ 제안은 이러한 환경 속에서 안전 조치이자 시장 구조 재편 시도로도 읽힌다. 정부의 뒷받침을 받는 일시 중단 프레임워크가 마련될 경우, 중단 이후에도 대규모로 재개할 여력이 부족한 소규모 경쟁사들보다 이미 최전선에 있는 기업들이 유리해질 공산이 크다.
함께 읽기: Trump Administration Eyes Government Stake in OpenAI
반응과 업계 역학
AI 업계가 앤스로픽의 문제 제기를 일제히 환영한 것은 아니다. **마이크로소프트(Microsoft)**의 AI 총괄 무스타파 술레이만은, 마이크로소프트가 독자적으로 최상위 AI 연구소 반열에 오르는 것을 목표로 하고 있다며, 자사는 억제보다는 가속에 초점을 맞추고 있음을 시사했다. 동시에 **텐센트(Tencent)**는 자체 AGI 추진을 위해 전 오픈AI 연구자를 최고 AI 과학자로 영입했다.
이 두 사례는 앤스로픽 보고서가 지적하는 집단행동 문제를 잘 보여준다. 한 연구소가 일방적으로 개발을 중단하면, 계속 개발을 이어가는 경쟁사들이 반사 이익을 얻는다. 구속력 있는 공조가 없다면, ‘일시 중단 메커니즘’에 대한 요구는 여전히 선언적 의미에 그칠 수밖에 없다.
앤스로픽의 9,650억 달러 기업가치는 최근 시리즈 H 라운드 이후 형성된 것으로, 이 회사가 개발 속도를 늦추더라도 버틸 재무적 여력이 크다는 뜻이다. 이러한 비대칭성은 이 회사가 안전을 내세운 주장을 평가할 때 중요한 변수다.
보고서 공개는 또 다른 맥락에서도 이루어졌다. 앤스로픽의 클로드 모델은 현재 엔터프라이즈 계약을 두고 GPT-5.5와 구글의 제미니(Gemini) 제품군과 정면으로 경쟁 중이다. 특히 규제가 강한 산업의 고객에게는 ‘안전’에서의 차별화가 상업적 경쟁력으로 작용할 수 있다.
다음 읽기: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist