**앤스로픽(Anthropic)**은 2026년 6월 초 보고서를 발표하며, 안전 조건이 악화될 경우 고도 인공지능 개발을 늦추거나 중단할 수 있는 조율된 메커니즘을 주요 인공지능 연구소들이 마련해야 한다고 촉구했다.
핵심 요지
- 앤스로픽은 인공지능 시스템이 스스로를 반복적으로 고도화할 수 있는 임계점에 다가가고 있다고 경고했다.
- 회사는 안전 리스크가 고조될 경우 개발을 늦추거나 중단할 수 있도록, 주요 AI 연구소들이 공동 메커니즘을 사전에 준비해야 한다고 촉구했다.
- 앤스로픽은 급격한 발전 속도가 인간이 AI 행동을 모니터링하고 수정할 수 있는 능력을 앞지를 수 있다고 경고했다.
- 이번 요구는 앤스로픽의 클로드(Claude) 모델이 개발 과정에서 스스로의 코드 일부를 작성했다는 보도 이후 나왔다.
- 이 보고서는 미국 의회가 새로운 AI 안전 법안을 검토하는 가운데, 더 넓은 정책 논쟁에 무게를 싣고 있다.
알자지라는 이 문서를 보도하며, 인공지능 시스템이 인간 엔지니어가 감시하거나 개입하는 속도보다 더 빠르게 스스로를 설계·구축해 개선된 버전을 만들어낼 수 있는 임계점에 근접하고 있다고 전했다. 앤스로픽은 이러한 반복적 자기 개선(Recursive Self-Improvement) 동학을 먼 미래의 가설이 아니라, 실질적인 단기 리스크로 규정했다.
앤스로픽 보고서의 핵심 내용
보고서의 핵심 주장은 기술적이고 구체적이다. 앤스로픽은 주장한다 현재의 AI 학습 파이프라인이 이미 제한적인 방식으로 모델이 스스로의 성능 향상에 기여하도록 허용하고 있다고 말한다. 회사의 대표 모델인 클로드는 개발 주기 동안 스스로의 코드 일부를 작성한 것으로 알려져 있다.
보고서는 즉각적인 전면 중단을 요구하지는 않는다. 대신 ‘준비’를 요구한다. 앤스로픽은 자사 포함 최전선(프런티어) 연구소들이 사전에 일시 중지를 발동하게 할 ‘트리거’를 합의하고, 이를 신속히 실행할 수 있는 인프라를 갖춰야 한다고 제안한다.
이러한 문제 제기는 앤스로픽이 줄곧 내세워온 공적 입장과도 일치한다. 회사는 강력한 인공지능을 개발하는 동시에 안전 장치를 함께 구축하는 것이 책임 있는 경로라고 주장해 왔으며, 이를 “책임 있는 스케일링(responsible scaling)”이라고 부른다. 새 보고서는 이 방정식에서 안전 측면이 더 빠르게 진전돼야 한다고 사실상 못 박은 셈이다.
문서는 또 누가 이런 일시 중지를 조율할 것인가라는 질문을 던진다. 현재 인공지능 개발을 집행력 있게 규율할 국제 거버넌스 기구는 존재하지 않는다. 보고서는 사실상 민간 기업들 간의 자발적 공조를 촉구하고 있는데, 비판론자들은 이를 가장 약한 형태의 집행 모델이라고 지적한다.
또 읽어보기: Justin Sun Escalates Fight With WLFI As HTX Removes USD1
워싱턴 정책 환경
앤스로픽의 경고는 한창 진행 중인 의회의 논쟁 한가운데에 떨어졌다. 이번 주에 회람된 초당적 하원 논의 초안은, 미국 내 가장 강력한 AI 개발사에 대해 안전 의무와 독립적 감사를 부과하는 내용을 담고 있다. 이 법안은 앤스로픽, 오픈AI(OpenAI), 구글 딥마인드(Google DeepMind) 등을 포함한 프런티어 연구소들을 직접 겨냥한다.
별도의, 보다 포괄적인 AI 법안은 2026년 6월 4일 하원 위원회 표결을 통과했다. 이 법안은 연방 기준이 마련되는 3년 동안, 주(州) 차원의 AI 소비자 보호 법률을 사실상 동결하는 내용을 담고 있다.
트럼프 행정부는 여기에 또 다른 복잡성을 더하고 있다. 백악관은 이번 주 프런티어 AI 모델에 대해 자발적 30일 검토 기간을 신설하는 행정명령을 발표해, 공개 배포 전에 국가 안보 기관이 조기 접근할 수 있도록 했다. 행정부는 또한 오픈AI에 대한 정부 지분 투입 가능성을 두고 회사와 논의 중인 것으로 전해진다.
앤스로픽의 일시 중지 메커니즘 요구는 이런 환경 속에서 안전 조치이자 동시에 ‘시장 구조화’ 조치로 기능한다. 만약 정부의 지원을 받는 일시 중지 프레임워크가 만들어진다면, 중단 이후에도 대규모로 개발을 재개할 여력이 없는 소규모 경쟁사보다 이미 최전선에 있는 기업들이 상대적으로 유리해질 가능성이 크다.
또 읽어보기: Trump Administration Eyes Government Stake in OpenAI
반응과 업계 역학
AI 업계가 앤스로픽의 문제 제기를 일제히 환영한 것은 아니다. **마이크로소프트(Microsoft)**의 AI 총괄 무스타파 술레이만은 자사가 독자적으로 최상위 AI 연구소 반열에 오르는 것을 목표로 한다며, 속도 조절보다는 가속에 방점을 찍고 있음을 시사했다. 한편 **텐센트(Tencent)**는 자체 AGI 추진을 위해 전직 오픈AI 연구자를 최고 AI 과학자로 영입했다.
이 두 사례는 앤스로픽 보고서가 지적하는 집단행동 문제를 단적으로 보여준다. 한 연구소만 일방적으로 개발을 중단하면, 계속 개발을 이어가는 경쟁사들이 반사 이익을 얻게 된다. 구속력 있는 공조가 없다면, 일시 중지 메커니즘에 대한 요구는 여전히 ‘선언적’ 수준에 머무를 수밖에 없다.
최근 시리즈 H 라운드 이후 9650억 달러의 기업가치를 인정받은 앤스로픽은, 상대적으로 작은 연구소와 달리 개발 속도를 늦추더라도 이를 흡수할 수 있는 재무적 여력을 갖추고 있다. 이러한 비대칭성은 회사가 내세우는 안전 옹호 논리를 평가할 때 중요한 요소다.
보고서 공개는 또 클로드 모델이 GPT-5.5, 구글의 제미니(Gemini) 제품군과 함께 엔터프라이즈 계약을 놓고 정면 경쟁하는 시점에 이뤄졌다. 안전성을 전면에 내세우는 것은 규제 산업 고객을 상대로 한 상업적 차별화 요소가 될 수 있다.
다음 읽기: Tencent Hires Former OpenAI Researcher Yao Shunyu as Chief AI Scientist