Anthropic は、外国籍を標的とした連邦政府の輸出規制命令を受け、最も強力な２つの AI モデルである Fable 5 と Mythos 5 をすべての顧客向けに無効化した。
主なポイント
- 米政府は６月12日に輸出規制命令を出し、両モデルを外国籍の利用者から遮断するよう指示した。
- Anthropic は他のモデルを稼働させたまま、２モデルのみを全世界のユーザー向けに停止した。
- 同社は、問題視されたジェイルブレイクは範囲が狭く、他の場所でも容易に再現可能だとして、命令に異議を唱えている。
Anthropic が Fable 5 を停止
この命令は金曜午後５時21分（米東部時間）に同社へ届き、詳しい説明のない国家安全保障上の権限を根拠としていたと、研究所側は述べた。政府は、同社の海外スタッフを含む外国籍の人々をブロックするよう求めた。これに従うため、Anthropic は両モデルをすべての人に対して停止した。
同社は声明で、リアルタイムで外国籍ユーザーとその他のユーザーを分離できないため、世界規模での一括停止が最も確実な対応だったと説明した。命令は、他の当局者の意見を取り入れて作成され、商務長官 Howard Lutnick 名で発出された。他の Anthropic モデルへのアクセスは維持された。
関連記事: Jeff Bezos Says AI May Not Kill Jobs As Prometheus Raises $12B
Fable 5 のジェイルブレイクを巡る争い
政府の懸念は、Fable 5 の安全対策をすり抜けるとされる手法をめぐるものだと、同社は説明している。Anthropic によれば、そのテクニックは、モデルにコードベースを読ませてソフトウェアの欠陥を修正させるといった内容だという。
同社は、エンジニアが本番システムを防御するために日常的に利用している能力だと主張した。また、指摘したように、OpenAI の GPT-5.5 などの競合ツールも、同様の作業をバイパスなしで処理しているという。リリース前に、研究所は Fable に数千時間のレッドチーミングを実施し、万能のジェイルブレイクは見つからなかったとしている。
命令が重要な理由
この措置は、主要な AI 開発企業が連邦政府の要請によって公開モデルをオフラインにした初の事例とみられる。この前例は、研究所がどのように製品を出荷し、エンジニアをどこに配置するかという点を組み替える可能性がある。
Anthropic は命令に従いつつも、強く反発している。同社の見方では、１つの狭い欠陥を理由に、数億人が利用するモデルを回収すれば、業界全体で新モデルのリリースが凍結されかねない。顧客に謝罪するとともに、アクセス復旧に取り組んでいると述べた。
この停止は、同研究所にとって慌ただしい数日の直後に起きた。Anthropic は４月にプレビューしてサイバーセキュリティ・プログラム「Project Glasswing」の内部に留めていた Mythos の制限版として、６月９日に Fable 5 をリリースしたばかりだった。このロールアウトは、命令が届く前から、トークン消費の多さや必須の30日間データ保持ルールをめぐって不満の声が上がっていた。
次に読む: Bitget Clears Argentina Regulator, Adding Another Latin America Market