Anthropic は火曜日、一般ユーザーに初めて同社で最も強力なクラスのAIモデルへアクセスを提供する Claude Fable 5 をリリースした。
重要ポイント:
- Claude Fable 5 は、Anthropic の制限付きモデル Mythos と同等レベルの技術に基づいて構築されている。
- 同社は、サイバー、生物学、化学に関するリスキーなクエリを制限するため、幅広いセーフガードを導入するとしている。
- このリリースは、AI安全性テストの自主的な拡大を目指すホワイトハウスの新たな取り組みに続くものだ。
Anthropic Fable
同社は 6 月 9 日に 発表 した声明で、Fable 5 はソフトウェアエンジニアリング、ナレッジワーク、画像認識、科学研究など、従来の一般公開向けシステムをさまざまなベンチマークで上回ると述べた。
NBC News の Jared Perlo によると、Fable 5 は Anthropic’s Mythos モデルと同じファミリーに属しており、今年初めにはサイバー脆弱性の発見と悪用を支援しうる能力から懸念を呼んでいた。
Anthropic は、Fable 5 には Mythos 級の技術が使われているものの、制限とセーフガードを追加することで一般利用に十分安全な設計になっていると説明した。同社によれば、サイバーセキュリティ、生物学、化学に関連するセンシティブなプロンプトは、従来の最上位一般モデルである Opus 4.8 にルーティングされるという。
関連記事: Crypto Hack Fears Grow Around Anthropic’s Possible Claude Fable Release
Claude の安全性
AI 研究者たちは、より強力なモデルが攻撃者による銀行、送電網、その他の重要インフラへの攻撃を支援する可能性を警告してきた。また、先進的なシステムが生物兵器設計を助長する恐れを指摘する声もある。
Anthropic は、ローンチ時には保守的なアプローチを取る一方で、Pro、Max、Team、シート制 Enterprise ユーザーには、6 月 22 日まで追加料金なしで他の Mythos 級機能を提供するとしている。
このリリースは、Donald Trump が大統領令に署名し、AI企業がモデルを政府と共有して 一般公開前に安全性テストを受けるための自主的なプロセスを創設してから 1 週間後に行われた。
次に読む: Kalshi Lists Chainlink Perp As LINK ETF Assets Cross $101M