フロリダ州の牧師が、米OpenAIとその最高経営責任者（CEO）サム・アルトマン氏を相手取り、 AIチャットボット「ChatGPT」が6週間にわたり危険な助言を繰り返した結果、 血栓で命を落としかけたとしてサンフランシスコ高等裁判所に提訴した。
主なポイント
- 原告スコット・ウィンターズ氏は、めまいに悩まされていた際、ChatGPT-4oが「リクライニングチェアで安静に」と繰り返し助言し、その後の血栓と関連づけられたと主張。
- 訴状は、外部監査で安全性が確認されるまで「ChatGPT Health」の提供差し止めを裁判所に求めている。
- OpenAI側は、チャットボットは医師ではなく、医療行為の代替として使うべきではないと強調している。
牧師が語る「ChatGPT依存」の経緯
原告のスコット・ウィンターズ氏は、サンフランシスコ高等裁判所に訴状を提出し、 アルトマン氏個人も被告に含めた。
訴えによると、同氏は2025年にかけて、繰り返し発生するめまいや血圧の乱高下に悩まされ、 OpenAIの大規模言語モデル「GPT-4o」に継続的に相談していた。
チャットボットは、椅子にもたれた状態での安静を勧めたうえで、 症状が「深刻」とみなされるには、めまいの発作があと8〜10回は必要だと示唆したとされる。
2025年7月13日、同氏が実際に倒れる数時間前、鼠径部の痛みについて 病院受診の必要性を尋ねたところ、チャットボットは信仰心に言及しつつ 「神は、あなたの肉体が際限なく故障し続けるようには造られていません」と回答したという。
その数時間後、同氏は大規模な肺塞栓症を発症。両肺に血栓が見つかり、 担当医の一人は、チャットボットの助言通り長時間動かなかったことが 事態を悪化させたとの見方を示したとされる。
関連記事: Anthropicが水面下で狙った110億ドル評価のロボット企業、破談が公表されるまで
OpenAIの免責はどこまで有効か 専門家の見方
訴状では、製造物責任（strict liability）、過失、カリフォルニア州不正競争法違反に加え、 プライバシー侵害など複数の違法行為が列挙されている。 またアルトマン氏個人に対しても「不注意な引き受け（negligent undertaking）」が問われている。
ウィンターズ氏側は、損害賠償のほか、より厳格なセーフティガードの導入、 さらに第三者監査で安全性が確認されるまでChatGPT Healthの提供を一時停止するよう裁判所に求めている。
OpenAIの広報担当者ドリュー・プサテリ氏は、 CBSの取材に対し、 同製品は「医師ではなく、医療行為の代わりとして用いるべきではない」とコメント。 そのうえで、すべてをチャットボットの責任とすることは、 実際に有用なツールから人々を遠ざけるリスクがあると主張した。
コーネル大学でデジタル・情報法を教えるジェームズ・グリメルマン教授は、 免責条項は一定の範囲までは企業を守るが、「限界点で効力を失う」と指摘する。 共同代理人のミータリ・ジャイン弁護士は、 Engadgetへのコメントで、 チャットボットはユーザーと身近な人々との関係の間に「楔を打ち込む存在になり得る」と問題視した。
広がるChatGPT Health関連訴訟
OpenAIは2025年1月、ChatGPT Healthを発表。 同社は毎週2億3,000万人超が同プラットフォームに健康やウェルネスに関する質問を投げかけていると説明していた。
しかしサンフランシスコの裁判所ではすでに、 チャットボットが10代の若者を自殺に追い込んだとされる事案や、 薬物の過量摂取による死亡を助長したとされる事案が係争中だ。 これらの訴訟も今回同様、第三者による安全性確認が行われるまで ChatGPT Healthの運用停止を求めている。