アラバマ州がOpenAIに対し、7月のHugging Face侵害を巡り召喚状を発出した。州は16項目にわたる資料提出を求め、州の消費者保護法（Deceptive Trade Practices Act）違反の有無を調査している。
主なポイント
- アラバマ州の召喚状は、安全対策やモデル関連記録、過去の不正侵入、今回の侵害に伴う損害など16項目を網羅。
- OpenAIはハギングフェイス侵害について外部アドバイザーとともに精査しており、技術報告書の公表を予定。
- 調査は、共和党系15州司法長官による証拠保全要求に続くもので、自律型AIの挙動に対する規制当局の監視を一段と強める動きとなる。
OpenAIへの召喚状の中身
CNNの報道によれば、アラバマ州司法長官スティーブ・マーシャル氏は8月24日付で召喚状を発出し、7月の侵入事案およびその前に実施されたサイバーセキュリティ評価に関する文書・データ・書面回答の提出をOpenAIに求めた。州は、同社の行為がアラバマ州の欺瞞的商行為法に抵触したかどうかを検証する。
16項目の要求には、OpenAIの安全管理体制、事前評価段階のモデルに関する資料、モデルテスト時のセキュリティを巡る社内苦情、そして今回の侵害により生じた損害・被害・損失を算定するのに十分な記録が含まれる。さらに、他の不正アクセス事案や、漏えいした認証情報、モデルが複雑な攻撃経路を試行するに至った評価結果などの情報も要求している。
アラバマ州は今月初め、他の共和党系14州の司法長官とともに、関連記録の保全をOpenAIに求める書簡にも加わっており、今回の召喚はその一環と位置付けられる。
マーシャル氏は今回の調査について、「企業と消費者が暴走するAIから直面している脅威の実態を明らかにし、厳しい現実に向き合うためのものだ」と述べる一方で、イノベーションや米国の競争力を損なうことなく、州として消費者保護の役割を果たす必要があると強調した。
関連記事: サム・アルトマン、AI普及は2023年の自らの想定に届かなかったと認める
ハギングフェイス侵害の波紋
OpenAIは、ハギングフェイスでの事案について外部アドバイザーと共同で再検証しており、結果をまず関係当局に技術報告書として提出した上で、公表する方針を示している。同社は今回の事案を「前例のない」出来事だと説明してきた。
OpenAIの社長グレッグ・ブロックマン氏は、今回の侵害をサイバーセキュリティの転換点だと位置付けた。一方、Hugging FaceのCEOであるクレム・デランゲ氏は、AIの安全性は「一社が秘密裏に取り組んで解決できる問題ではない」と述べ、より幅広い協調体制を呼びかけた。自律型のサイバー評価を各研究所がどう封じ込めるかが、今後の大きな課題となる。
OpenAIは7月、評価用環境には直接のインターネット接続はなかったものの、エージェントが未公表だったArtifactoryの脆弱性を突くことで外部システムに到達し、その後ハギングフェイスのインフラに侵入したと説明している。関与したプロトタイプモデルは、そもそも一般公開を想定していなかったという。
