Anthropicのダリオ・アモデイCEOが、3本柱の監督枠組みの下でAI開発のペースを落とすべきだと提唱した。競合他社トップも支持を表明したが、実際に減速をどう強制し、競争や経済コストとどう折り合いを付けるのかという疑問が噴出している。
主なポイント
- アモデイ氏は「独立したモデル監視」「業界共通ルール」「グローバルな規制」の3点を提案。
- サム・アルトマン氏とイーロン・マスク氏が減速論を支持する一方、「実効性ある制限がない」との批判も。
- 米中の競争とAI投資依存の構図が、足並みを揃えた「一時停止」を一段と難しくしている。
アモデイ氏の「AI減速」提言
アモデイ氏は9月12日、AI開発のスピードを落とすべきだと公に主張し、この立場にOpenAIのサム・アルトマンCEOやイーロン・マスク氏が同調した。Anthropicの元研究者ジェイコブ・コクソン氏はBBCに対し、高度なシステムを開発している当事者たちが「人類の将来について本気で恐れている」と語っている。
アモデイ氏の構想は、開発中のモデルを第三者機関が監視する仕組み、業界全体に適用されるルール、そして各国が協調するグローバル規制の3層構造だ。ただし、誰がどの権限で上限を強制するのか、競合企業や他国の開発をどう抑止するのかといった核心部分は、なお不透明だ。
最大のハードルは国際的な「AI競争」である。米国は中国に対する優位維持を最優先としており、民間企業側も自国だけが一方的に開発を止めれば、国際競争で後れを取るとの警戒感が根強い。9月13日にはドナルド・トランプ大統領が、米国はAIで中国をリードしていると述べ、「AIで勝つ者が、すべてを制する」と強調した。
関連記事: ビットコイン7万7,000ドル近辺を維持も強気相場入りシグナルはなお不確定
「減速」の実効性に疑義示すジトロン氏
EZ Primary Researchのエド・ジトロンCEOは、アモデイ氏の提案はまだ評価に足るだけの具体性を欠いていると批判する。「『減速』が何を意味するのか、実質的な説明を誰もしていない」と述べ、モデル学習を凍結すれば、中国の研究機関が追い付き、停止中の製品を模倣する余地を与えかねないと警鐘を鳴らした。
ジトロン氏はまた、開発ペースの鈍化は価格設定を変え、もともと脆弱なAIビジネスの収益モデルに打撃を与え得ると指摘。「これでバブルがはじける可能性もある」と述べ、業界には依然として「減速」の実務的な定義が欠けていると主張した。
不確実性は安全政策にとどまらない。Synthesiaのアレクサンダー・ボイカ氏は、規制当局自身が高機能化するシステムの用途をまだ把握しきれていないとし、拙速な規制は「むしろ裏目に出る」リスクがあると警告した。一方、Sustainable AI創業者のサーシャ・ルッチョーニ氏は、存在論的リスクよりも、企業の経済インセンティブの方が懸念材料だと語る。
英国ではAIが医療、職場、経済政策の現場で積極的に活用されており、開発減速は「成長か、安全か」という二者択一の色彩を強めている。計算機科学者ウェンディ・ホール氏は、システムを制御下に置く責任は企業側にあるとし、この問題を「暴れ牛をきちんと囲い込めない農家」の比喩で表現した。
一方で、懐疑論は逆方向にも存在する。Capital Research Centreの研究者パーカー・セイヤー氏は、政治的な思惑によって「AIを規制で骨抜きにしようとする」動きがあると主張している。BBCはこうした見方を、極端かつ裏付けに乏しいと評している。
安全性、国家間競争、投資、企業の説明責任――議論は多方面に広がるものの、開発スピードを「どこまで、どの程度」落とすのかを決める共通の仕組みは、いまだ共有されていない。
この流れは、2023年11月にブレッチリー・パークで開かれた初の世界AI安全サミットからの変化を映し出す。当時の焦点は、多くの参加者がまだ遠い将来の話とみなしていた「極端なリスク」に置かれていた。あれから3年、いまや主要AI企業のトップ自らが公の場で「減速」を語り始めたが、雇用、規制、制御を巡る根本的な問いは依然として解決されていない。
次の記事: DeepSeek And Moonshot Passed Off Claude Answers As Their Own, Anthropic Says
