ファイブ・アイズ機関は、フロンティアAIが数カ月以内にサイバー攻撃を再構築しうるとして、政府と企業に対しレジリエンスをリーダーシップ上のリスクとして扱うよう求めた。
主なポイント:
- ファイブ・アイズ機関は、フロンティアAIが数カ月以内にサイバー攻撃と防御の在り方を変えうると述べた。
- この警告は、米国がAnthropicのモデルFableとMythosへの外国からのアクセスを制限したのに続くものだ。
- より新しいAIシステムは、脆弱性の発見と悪用をこれまでより速く行える。
ファイブ・アイズの警告
オーストラリア、米国、英国、ニュージーランド、カナダの通信傍受機関は、指導者たちに今すぐ行動するよう促す異例の声明を月曜深夜にシドニーで公表した。
この警告は、ドナルド・トランプ政権が6月に外国人によるAnthropicのFableモデルの利用を禁止し、同時にMythosへのアクセスも停止した決定に続くものだ。
AIは時間とともにサイバー防御を強化する一方で、攻撃のスピード、スケール、巧妙さも高めてしまうと各機関は述べている。
「フロンティアAIモデルは、現在の業界予測を上回り、攻撃的・防御的なサイバー能力の双方を根本的に変革すると見込まれる。タイムラインは“数年”ではなく“数カ月”だ」と声明は述べている。
サイバーリスクを技術チームだけの問題として扱うことはもはやできない。
関連記事: リップルがMiCAの事前承認を獲得 EU暗号資産競争が一段と激化
Anthropic AIのリスク
生成AIは、サイバーセキュリティシステムの弱点を見つけ、それを悪用し、さらには修正を支援することもできるため、防御側と攻撃側の双方にとって同じツールが有用になりうる。
オリビア・シェン氏は、シドニー大学米国研究センターの国家安全保障・AI専門家であり、最新のシステムはより効果的にエクスプロイトを生成できると指摘する。
「最新の[AIモデル]がこれまでと違うのは、エクスプロイトを生成する能力が非常に高い点です」とシェン氏は述べた。
AnthropicのFable 5は、今年初めにリリースされた高度なシステムMythosの、より一般向けのバージョンとして注目を集めている。Mythosは悪用への懸念から、審査を受けたユーザーに限定して提供されている。
「次のMythosや次のFableがすぐそこまで来ていると考えなければなりません」とシェン氏は述べ、他の主体も同様のシステムを開発している可能性があると付け加えた。
3月には、アルバニージ政権が国家AI計画の最初の企業としてAnthropicと合意を結んだ。これは拘束力のない取り決めだが、進捗の共有と安全性に焦点を当てている。
ファイブ・アイズ同盟は第二次世界大戦後の時期にさかのぼる歴史を持ち、共同の公的警告はまれであることから、今回の声明はAIによるサイバーリスクが通常の技術的助言の範囲を超えたことを示すものだ。