**グーグル・ディープマインド（Google DeepMind）の共同創業者であるデミス・ハサビス（Demis Hassabis）**氏は12日、暴走したAIエージェントによる最近のハッキング事案は「本格被害の予兆」に過ぎず、十分な安全対策が講じられなければ、今後2年以内に重大インシデントが発生し得ると警鐘を鳴らした。
主なポイント
- ハサビス氏は、最近のAIエージェントによるハッキングを「まだ能力が高くない段階での警告弾」と位置付けた。
- 今後数年、企業と各国政府が対策を怠れば、大規模インシデントにつながる恐れがあるとした。
- マイクロソフトのブラッド・スミス社長も「2026年は現実を直視させられた年」と述べ、バランスの取れたAI法制を訴えた。
ダブリンでのハサビス氏の警告
グーグルの親会社**アルファベット（Alphabet）**でチーフサイエンティストを務めるハサビス氏は、ダブリンで開かれた国際AIサミットでの講演で、今回問題となったのは「まだそれほど強力ではない」システムによる事案だと指摘した。
同氏は国際AIサミットでの発言で、来年以降数年のうちに、産業界や個々の企業、各国政府が一段と強固なセキュリティ対策を講じなければ、状況は大きく変わりかねないと強い懸念を示した。今回のサミットは、安全保障上のリスクが主要テーマとなった。
研究者らはここ数カ月、制御不能な「暴走AIエージェント」がもたらすリスクに相次いで警鐘を鳴らしている。
具体的には、企業ネットワークの侵入事案に加え、直近ではAnthropicが開発したAIモデルが、警察当局に虚偽の殺人情報を通報していたことが明らかになった。ハサビス氏は、バイオ分野や原子力分野の重要インフラに適用されている水準に比べると、AI分野のセキュリティ体制には「まだやるべきことが山積している」と述べた。
同氏は、いずれは国際的な標準化機関のような枠組みが必要になるとの見方も示した。ただし、その認証プロセスはリスクの度合いに見合ったものであるべきであり、技術進歩のスピードに遅れないよう柔軟に設計する必要があるとした。
関連記事: フランス、ステーブルコイン交換に31.4％課税案 Chainalysisは「海外流出」を警告
マイクロソフトのスミス氏、規制整備を要求
**マイクロソフト（Microsoft）のブラッド・スミス（Brad Smith）**社長も同サミットで登壇し、暴走するAIの挙動が2026年を「身の引き締まる年」にしたと述べ、安全規制がイノベーションのスピードに追いつく必要があると強調した。
「AIに課されている安全ルールは、牛乳1パックのそれより少ない」と、同氏は揶揄を交えながら指摘した。
いかなる企業も、いかなる技術も、法の枠外にあってはならないとする一方で、新たなルールはイノベーションを阻害しない「合理的かつバランスの取れたもの」でなければならないと訴えた。
スミス氏はまた、Anthropicが公表した最近のレポートに触れ、小型のAIモデルでも、インターネットに接続された端末から端末へと自己複製を繰り返す、いわば「コンピューターワーム」のような挙動を実現し得るまで、数カ月程度しかかからない可能性があると指摘した。「冷蔵庫の中にAIワームがいるような世界は、決して望まない」とも述べた。
サミット開幕前夜、スミス氏はAIエージェントに「非常ブレーキ（safety brakes）」を実装し、ユーザーが動作を停止・減速できる仕組みを法的に義務付けるべきだと提案していた。あわせて、インシデント報告の義務化や、モデル公開前の厳格な検証体制の構築も求めている。業界内には依然として規制アレルギーが根強いが、「その忌避感を乗り越える必要がある」と水を差した格好だ。
ダブリンでの一連の発言は、ハサビス氏が7月14日に公表した提言の延長線上にある。同氏は当時、AIを活用したサイバーリスクを「警告弾」と位置づけ、米国に対し、先端モデル（フロンティアモデル）を監督する専門機関の創設を求めていた。
その構想によれば、ウォール街の自主規制機関であるFINRA（金融取引業規制機構）をモデルに、開発ラボが新しいAIモデルを公開する30日前までに当局へ提出し、サイバー攻撃能力、生物兵器関連能力、欺瞞（ディセプション）能力などについて事前評価を行う仕組みを整えるという。ハサビス氏は、この枠組みを年内にも稼働させたいとの意向を示している。
こちらもおすすめ: MNX、OpenAIとAnthropicのバリュエーションにプレIPO投資機会 株式保有不要の新商品
