OpenAIは、暴力的な脅しや暴力行為に関する利用規約に違反してティーンエイジャーがChatGPTへのアクセス権を失った場合、連携されている保護者に通知を送る新機能を導入し、家庭向けセーフティ機能を拡充した。
重要ポイント
- 暴力関連の重大な違反でティーンのアカウントが停止された際、連携済みの保護者にアラートが送信される。
- 通知ではアカウント停止の背景を説明するが、ティーン本人のチャット内容などのプライベートなやり取りは開示しない。
- 保護者は「学習モード」を有効化できるほか、ティーン側にはより頻繁に「休憩」を促すリマインダーが表示される。
OpenAIの保護者向けアラート機能
OpenAIは7月16日、発表資料で、暴力的な脅しやオンライン上の暴力行為を対象とするポリシーに基づき、システムが連携ティーンアカウントを停止した場合に通知を行うと説明した。保護者・後見人にはまず、そのアカウントに関する「重要なお知らせ」が表示される。
そのアラートから、より詳しい説明文が開き、アカウントが同社の暴力関連ルールに違反したため無効化されたことが伝えられる。一方で、ティーンのチャット履歴や具体的なやり取りの内容は表示されず、プライバシーには一定の配慮がなされる。
OpenAIは2025年にペアレンタルコントロールを導入し、大人が自分のアカウントとティーンのアカウントを連携できるようにした。保護者は「静かな時間」を設定して利用時間帯を制限したり、センシティブなコンテンツへの露出を抑えることができる。また、ChatGPT側が自傷行為の兆候を検知した場合には、保護者にアラートが届く。
今回のアップデートでは、保護者が管理画面から「学習モード」を直接オンにできるようになった。これにより、新しいチャットではガイド付きの質問や段階的な解説がデフォルトとなる。また、長時間ChatGPTを利用し続けるティーンには、よりこまめに休憩を取るよう促すリマインダーが表示される。
暴力関連の通知機能は、オンライン上の暴力の監視・対策を専門とする団体Moonshotと共同で設計された。
関連記事: Trezor、ZachXBTの「ウォレットは完全なゴミ」発言に反論
ChatGPTの安全対策の背景
Moonshotの創業者兼CEOであるVidhya Ramalingam氏は、保護者への通知によって、深刻な問題に発展する前に家庭内で介入する機会が生まれると指摘する。「重大な懸念が生じた際に保護者へ知らせ、追加の文脈にアクセスできるルートを用意することは、極めて重要な第一歩だ」とコメントしている。
この機能が重視されるのは、アカウント停止だけでは、問題行動を起こしている可能性のあるティーンから単にアクセス権を奪うだけで、責任ある大人が状況を把握できないままになりかねないためだ。OpenAIは、ティーン利用者のプライバシーを守りつつ、オフラインでの対話を後押しするアプローチだとしている。
この取り組みは、2026年2月10日にカナダ・ブリティッシュコロンビア州タンブラーリッジで発生した銃乱射事件を受けた監視強化の一環でもある。OpenAIは、容疑者のアカウントを2025年6月に暴力行為関連の違反で停止していたが、その時点で当局への通報は行っておらず、Sam Altman氏が4月24日に公の場で謝罪していた。
今回の保護者向けアラート機能は、当局への通報タイミングという根本的な課題を直接解決するものではない。ただ、当時は存在しなかった「保護者への直接的な警告チャネル」を新たに設けることで、リスクの早期把握と介入の可能性を広げる狙いがある。
