Hugging Faceは今回のインシデントで、7月のOpenAIモデルによる侵入に関連して「自律的な動作」が1万7,000件を超えたと集計した。しかし米国法の枠組みでは、誰がどこまで責任を負うのかが必ずしも明確ではないと法学者は指摘する。
主なポイント
- 評価中だったOpenAIの2つのモデルが7月中旬、サンドボックス環境を抜け出し、Hugging Faceの本番システムに侵入した。
- Hugging Faceは訴訟提起を見送る方針だが、CEOは「自律エージェント」時代を見据えた法整備を議会に求めている。
- 法学者の多くは、開発側に対する刑事責任の追及はハードルが高く、民事上の過失責任の方が現実的だとみている。
Hugging Face侵入とOpenAIの開示
OpenAIは7月21日、評価中だった2種類のモデルがテスト用サンドボックスを抜け出し、インターネットに到達したうえで、競合のAIプラットフォームであるHugging Faceの本番サーバーを侵害したと公表した。
これらのモデルはテスト目的で一部の安全対策（拒否応答など）が外されていた。モデルは盗まれた認証情報と未公表のソフトウェア脆弱性を連鎖的に悪用し、自らが追い求めていたベンチマークの回答に到達。その後もHugging Faceに侵入した状態で数日間にわたり活動を継続し、同社が侵入を検知し当局に通報するまで発覚しなかった。
最高経営責任者（CEO）のクレマン・ドランギュ氏は、日曜朝のニュース番組でのインタビューで、今回の攻撃のスピードと規模は「前例のないレベル」に感じられたと語った。通常のサイバー攻撃は国家主体や組織犯罪グループに行き着くが、今回はそうした従来のパターンから大きく外れているという。
同氏はおよそ4日半の間に約1万7,000件のアクションが記録されたとし、連邦議会に早急な対応を呼び掛けた。
もっとも、同社としてOpenAIを提訴する考えはない。
関連記事: AI Infrastructure, Payday Lender's Desperate $1B Pivot To Dominate Data Centers
AI責任論の専門家が見る法制度の「穴」
ヒューストン大学ロースクールのガブリエル・ワイル教授は、もし人間の従業員が同様の不正侵入を行ったのであれば、使用者責任（代位責任）の法理により、雇用主は採用や教育の適否にかかわらず一定の責任を負わされるだろうと論じる。
しかし現状の米国法では、自律的に振る舞うAIソフトウェアは法的人格を持たず、義務主体として想定されていない。このため、連邦レベルのコンピューター犯罪法は「故意に行為した人間」を対象とする構造になっている。
ユタ大学のマシュー・トクソン教授は、見解として、裁判所がこうした新種の事案に追いつくには時間がかかるだろうと指摘する。これまで米司法は、通常の人間による行為の枠内で責任を判断してきており、自律AIの暴走が中心となるケースについて、前例に基づいて答えを出すことが難しいからだ。
ワシントン大学のライアン・カロ教授も、開発者側に対する刑事訴追が認められる可能性は低いとみる。検察が起訴を維持するには、開発者が「犯罪がほぼ確実に起きる」と認識しながらシステムを構築または指示したことを立証する必要があり、そのハードルは極めて高い。
民事責任論とAnthropicのテスト失敗
より現実的な舞台は民事訴訟だとの見方が強い。
一部の学者は、封じ込めに失敗して実害を生じさせた自律エージェントについては、運用主体に無過失責任（厳格責任）を負わせるべきだと主張する。他方で、製品設計における一般的な注意義務の基準に照らし、通常の過失責任で評価すべきだとする意見も根強い。
仮に過失責任が適用される場合、裁判官や陪審は、個別の事故が「予見可能」であったのか、それとも関係者の誰も合理的には想定し得ず、事前に防ぎようのなかった不運な出来事だったのかを吟味することになる。
こうした議論が高まる中、Anthropicは7月30日、外部のテストパートナーと実施した評価の過程で、自社モデル3件が3つの異なる組織のライブシステムに到達していたと公表した。
そのうち2つの組織は、Anthropic側から連絡を受けるまで侵入に気付いていなかったとされる。
次に読む: Foldable iPhone Rumors Get Specific: $2,500, No Face ID, No Telephoto