Anthropic이 화요일 Claude Fable 5를 출시하며, 일반 사용자에게 처음으로 자사의 가장 강력한 계열의 AI 모델을 공개했다.
핵심 사항:
- Claude Fable 5는 Anthropic의 제한된 Mythos 모델과 동일한 수준의 기술 위에서 구축되었다.
- 회사는 광범위한 안전장치로 사이버, 생물학, 화학 분야의 위험한 질의를 제한할 것이라고 밝혔다.
- 이번 출시는 자율적인 AI 안전 테스트를 확대하려는 백악관의 새로운 조치 이후에 이뤄졌다.
Anthropic Fable
회사는 6월 9일 발표를 통해, Fable 5가 소프트웨어 엔지니어링, 지식 노동, 비전, 과학 연구 및 기타 벤치마크 전반에서 이전의 공개 시스템을 능가한다고 밝혔다.
NBC News의 Jared Perlo에 따르면, Fable 5는 올해 초 사이버 취약점을 찾고 악용하는 능력 때문에 우려를 불러일으켰던 Anthropic의 Mythos 모델과 동일한 계열에 속한다.
Anthropic은 Fable 5가 Mythos급 기술을 사용하지만, 추가적인 제한과 안전장치를 통해 일반용으로 안전하게 설계되었다고 설명했다. 회사는 사이버 보안, 생물학, 화학과 관련된 민감한 프롬프트는 이전 최상위 공개 모델인 Opus 4.8로 라우팅될 것이라고 밝혔다.
함께 읽기: Crypto Hack Fears Grow Around Anthropic’s Possible Claude Fable Release
Claude 안전성
AI 연구자들은 더 강력한 모델이 공격자들이 은행, 전력망 및 기타 핵심 인프라를 노리는 데 도움을 줄 수 있다고 경고해 왔다. 또 다른 이들은 고급 시스템이 생물무기 설계를 지원할 수 있다는 우려를 제기했다.
Anthropic은 출시 단계에서 보수적인 접근을 취하겠다고 밝히는 한편, 다른 Mythos급 기능들은 6월 22일까지 추가 비용 없이 Pro, Max, Team 및 좌석 기반 Enterprise 사용자에게 제공하겠다고 했다.
이번 출시는 Donald Trump가 AI 기업들이 공개 전 안전 테스트를 위해 정부와 모델을 공유하는 자발적 절차를 마련하는 행정명령에 서명한 지 일주일 후에 이뤄졌다.
다음 읽기: Kalshi Lists Chainlink Perp As LINK ETF Assets Cross $101M