ファイブ・アイズ機関は、フロンティアAIが数カ月以内にサイバー攻撃の様相を一変させる可能性があると警告し、政府と企業に対し、レジリエンスをリーダーシップレベルのリスクとして扱うよう促した。
重要ポイント：
- ファイブ・アイズ機関は、フロンティアAIが数カ月以内にサイバー攻撃と防御を変容させる可能性があると述べた。
- この警告は、AnthropicのFableとMythosへの外国人アクセスを米国が制限したことを受けたものだ。
- より新しいAIシステムは、脆弱性をより速く発見・悪用できる。
ファイブ・アイズの警告
オーストラリア、米国、英国、ニュージーランド、カナダの電波傍受機関は、指導者たちにいま行動するよう促す異例の共同声明を月曜深夜にシドニーで発表した。
この警告は、ドナルド・トランプ政権が6月にAnthropicのFableモデルの外国人利用を禁止し、あわせてMythosへのアクセスも停止した決定に続くものだ。
機関側は、AIは時間とともにサイバー防御を強化する一方で、攻撃の速度・規模・高度さも引き上げると述べた。
「フロンティアAIモデルは、現在の業界予測を上回り、攻撃的・防御的なサイバー能力の両方を根本的に変革すると見込まれている。タイムラインは“数年”ではなく“数カ月”だ」と声明は述べている。
サイバーリスクはもはや技術チームだけの問題ではない。
関連記事： リップル、EUの暗号資産競争が激化する中でMiCAの予備承認を獲得
Anthropic AIのリスク
生成AIはサイバーセキュリティシステムの弱点を見つけ、それを悪用するのを助け、また修復を支援することもでき、同じツールが防御側と攻撃側の双方に有用となり得る。
オリビア・シェン氏（シドニー大学米国研究センターの国家安全保障・AI専門家）は、最新のシステムはより効果的にエクスプロイトを生成できると語る。
「最新の[AIモデル]がこれまでと違うのは、エクスプロイトの生成が非常に得意だという点です」とシェン氏は述べた。
AnthropicのFable 5は、今年初めに公開された高度なシステムMythosの、より一般公開向けバージョンとして注目を集めている。Mythosは悪用懸念から、精査済みユーザーに限定して提供されている。
「次のMythosや次のFableがすぐそこまで来ていると考えなければなりません」とシェン氏は述べ、他のアクターも同様のシステムを開発している可能性があると付け加えた。
3月には、アルバニージー政権が国家AI計画における最初の企業としてAnthropicと合意に署名した。これは進捗共有と安全性に焦点を当てた法的拘束力のない取り決めだ。
ファイブ・アイズ同盟は第二次世界大戦後の時代にさかのぼる枠組みであり、共同の公開警告はまれであることから、今回の声明はAIによるサイバーリスクが通常の技術的ガイダンスの域を超えたことを示している。