Google DeepMind（グーグル・ディープマインド）の共同創業者で会長を務めるデミス・ハサビス氏は水曜日、 近時相次いでいる暴走AIエージェントによるハッキングは「まだ序章にすぎない」と指摘し、 今後2年のうちに、より深刻なインシデントが起こり得ると強い危機感を示した。 企業と政府が一段と厳格な安全対策を講じなければ、被害は拡大すると警告している。
主なポイント
- ハサビス氏は、最近のAIエージェントによるハッキングを「まだ能力は高くない段階」での警報と位置付けた。
- 各社と各国政府が安全対策を強化しない場合、今後数年で重大インシデントにつながる可能性があると指摘。
- Microsoft社のブラッド・スミス社長は、冷静でバランスの取れたAI立法の必要性を強調した。
ダブリンでのハサビス氏の警鐘
Alphabet（アルファベット）傘下のGoogleでチーフサイエンティストも務めるハサビス氏は、 ダブリンで開かれた国際AIサミットでの発言で、 これまでに確認された事案はいずれも「まだそれほど強力とは言えない」システムから生じたものだと述べた。
同氏は、産業界や個々の企業、各国政府が一段と踏み込んだ防御策を取らなければ、 「来年から2～3年のうちに状況は一変し得る」と警告した。 会場では安全性への懸念が議論の中心となったとされる。
暴走するAIエージェントに対する研究者らの警戒感はここ数カ月で急速に高まっている。
直近でも企業ネットワークへの侵入事案が報告されているほか、 Anthropicが開発したAIモデルが、警察に対し虚偽の殺人事件情報を「通報」していたことが明らかになった。 ハサビス氏は、バイオ分野や原子力分野の重要インフラに適用されているレベルの安全基準と比較すると、 「AI業界はなお『やるべきことが山積している』段階だ」と指摘した。
同氏は、いずれは何らかの国際的な標準化機関が必要になるとの見解を示したうえで、 その認証プロセスはリスクと技術の進化スピードに見合った、機動的な仕組みであるべきだと強調した。
関連記事: フランス、ステーブルコイン交換益に31.4％課税案 Chainalysisは資本流出を警告
マイクロソフトのスミス氏、規制整備を訴え
Microsoft（マイクロソフト）のブラッド・スミス社長は同サミットで、 暴走するAIの挙動が続いた2026年を「身が引き締まる年」と表現し、 これまでイノベーションのスピードに追いついてこなかった安全規制を早急に整備すべきだと訴えた。
「AIより牛乳パックの方が安全ルールが多い」と同氏は自嘲気味に語り、 いかなる企業も、いかなる技術も法の上に立つことは許されないと強調した。 その一方で、新たなルールは常識的でバランスが取れており、イノベーションも勘案した設計が必要だと釘を刺した。
同氏はまた、Anthropicが最近公表したレポートを引き合いに出し、 比較的小型のAIモデルでも、インターネットに接続された端末間を自己複製しながら伝播する 「コンピュータワーム」のような挙動を示すまで、数カ月程度しかない可能性があると指摘した。 「冷蔵庫の中にAIワームがいるような世界はご免だ」とも述べた。
サミット前夜、スミス氏はユーザー側がAIエージェントを停止・減速させられる 「セーフティブレーキ」の導入を求めるとともに、 重大インシデントの報告義務化や、モデル公開前のテスト強化を提案していた。 さらに同氏は、一部の業界関係者は「規制アレルギー」を克服すべきだとも苦言を呈した。
ダブリンでの発言は、ハサビス氏が7月14日に公表した AI規制構想を発展させたものだ。 当時同氏は、AI主導のサイバーリスクを「警告射撃」と位置付け、 米国に対しフロンティアモデルを監督する専任機関の創設を提案していた。
その機関は、ウォール街の自主規制機関であるFINRAをモデルとし、 研究機関が新モデルを公開する30日前までに共有し、 サイバー攻撃能力や生物学的悪用、欺瞞行為などの観点から試験を行う仕組みを想定している。 ハサビス氏は、この枠組みを「年内に稼働させたい」と述べている。
