AnthropicのClaude Mythosモデルは、機密扱いの情報機関テストにおいて、米国政府の高度に機密性の高いコンピューターシステムのセキュリティ上の欠陥を数時間で暴いたと、ある当局者が述べた。
主なポイント:
- AnthropicのMythos AIは、情報機関テストで数時間のうちに米政府の機密システムの脆弱性を特定したと当局者は述べた。
- 弱点を見つけることは、それを実際に悪用することと同じではないと、当局者は注意を促した。
- 100人超のサイバーセキュリティ専門家が、MythosとFable 5を停止させた輸出規制の撤回を政府に求めている。
Mythosのテストが政府の機密上の欠陥を露呈
機微な業務について匿名を条件に語った米政府当局者によると、情報機関はProject Glasswingと呼ばれるプログラムの下でこの演習を実施した。この取り組みは、重大な欠陥が公共の安全や経済に深刻な被害をもたらす前に、それらを修正して重要なソフトウェアを強化するために、テック大手や他企業を結集したものだ。AnthropicはMythosを一般公開せず、代わりに一部の企業に早期アクセスを提供し、攻撃者より先に重大なバグを発見・修正できるようにしていた。
バージニア州選出の民主党上院議員マーク・ワーナーは、6月11日に開かれた上院銀行・住宅・都市問題委員会の公聴会でこのテストに初めて言及した。彼によれば、このツールは数週間ではなく数時間で政府のほぼすべての機密システムに侵入したとされ、その説明の出どころとして国家安全保障局（NSA）とサイバー軍を率いるジョシュア・ラッドを挙げた。
当局者は、弱点を特定することは、それを悪用することと同義ではないと注意を促した。
関連記事: Anthropic Perpの売り浴びせはプレIPO暗号投資への警告か？
サイバーセキュリティ専門家が輸出規制に異議
AdobeやNvidia関係者を含む100人超のサイバーセキュリティリーダーが、政府に対して輸出規制の撤回と、AIリスク評価の透明なプロセスへのコミットメントを求めている。彼らは、Mythosはソフトウェアの欠陥を見つけて武器化する能力こそ高いものの、それが唯一無二というわけではなく、多くの専門家が同様の作業に競合やオープンソースのモデルを頼っていると指摘する。中国のシステムは、最高峰の米国モデルに数カ月差で追随しているにすぎないとも主張し、このタイミングでの規制は特に危険だと論じた。
こうした反発は、Mythos 5およびFable 5、つまりMythosの上位ティアの広範な提供について、外国籍の利用を禁じた6月12日の輸出指令を受けたものだ。Anthropicは政府命令に従い、すべての顧客に対して両モデルを無効化したが、政府の措置には安全保障上の根拠がないとの立場を崩していない。
この指令は、ドナルド・トランプ大統領による大統領令に続くものであり、その命令は、最先端AIシステムの公開前に最大1カ月間、連邦政府による審査を行う枠組みを定めていた。開発者側の参加は任意とされたものの、安全性を重視する同社との間で緊張は高まっている。
衝突以前からあったMythosのサイバー実績
このモデルは今春登場し、経験豊富な人間研究者でさえ見落とすソフトウェアの欠陥をあぶり出す能力があることが文書化されていた。英国のAI Security Instituteは以前、どのシステムも解けなかった専門家レベルのキャプチャ・ザ・フラッグ課題において、Mythosがその73%をクリアしたと評価している。Mozillaも別途、初期バージョンのMythosがFirefoxにおける271件の脆弱性を発見し、それらをブラウザーの150回目のリリースで修正したと功績を認めている。