OpenAIは、暴力的な脅しや暴力行為に関する規約違反でティーンエージャーのChatGPTアカウントを停止した際、アカウントを連携している保護者に通知を送る仕組みを導入し、ファミリー向けの安全管理機能を拡充する。
主なポイント
- 暴力に関連する重大な違反でティーンアカウントが停止された場合、連携済み保護者にアラートを送信。
- 通知では詳細な背景を説明する一方、ティーンの具体的なチャット内容は開示しない。
- 保護者は学習モードを有効化できるほか、ティーン側にはより頻繁に休憩を促すリマインダーが表示される。
OpenAIの保護者向けアラート
OpenAIは7月16日、この変更を発表した。新たな通知は、オンライン上での暴力的な脅しや暴力行為に関するポリシーに基づき、同社のシステムが連携済みティーンアカウントを停止した場合に送信される。保護者や後見人にはまず、そのアカウントに関する「重要なお知らせ」が表示される。
そこから詳細画面を開くと、「暴力に関するルール違反によりアカウントを無効化した」という趣旨の、より踏み込んだ説明が示される。一方で、ティーンのチャット履歴や、個々のやり取りの具体的な内容は共有されない。
OpenAIは2025年にペアレンタルコントロールを導入し、大人が自身のアカウントとティーンのアカウントを紐づけられるようにした。保護者は「静かな時間帯」を設定したり、センシティブなコンテンツの閲覧を制限したりできるほか、ChatGPTが自傷行為の兆候を検知した場合にもアラートを受け取れる。
今回のアップデートでは、保護者が管理画面から「学習モード」を有効にできるようになった。新しいチャットでは、誘導的な質問やステップ・バイ・ステップの解説をデフォルトとし、学習支援に特化した利用を促す。また、ChatGPTを長時間連続で利用しているティーンには、より頻繁に休憩を促すメッセージが表示される。
暴力関連通知の設計には、オンライン上の暴力の監視と対策に取り組む団体Moonshotが協力している。
関連記事: TrezorがZachXBTの「ウォレットは完全なゴミ」との主張に反論
ChatGPTの安全対策の位置づけ
Moonshotの創業者兼CEOであるVidhya Ramalingam氏は、保護者への通知により、深刻な問題に発展する前の段階で家族が介入できるようになると語る。「重大な懸念が生じた際、その事実を保護者に知らせ、背景を理解するルートを提供することは、極めて重要な第一歩だ」としている。
この機能が重要なのは、アカウントの強制措置だけでは、アクセスを遮断するにとどまり、責任ある大人が状況を把握できないケースがあるためだ。OpenAIは今回の取り組みについて、ティーンユーザーのプライバシーを守りつつ、オフラインでの対話を後押しする狙いがあると説明している。
今回の拡張は、2026年2月10日にカナダ・ブリティッシュコロンビア州タンブラーリッジで発生した銃乱射事件を受けた厳しい検証の流れの中で行われたものだ。容疑者のアカウントは2025年6月、暴力的な行為に関する違反でOpenAIによって停止されていたが、当時、法執行機関への通報は行われておらず、Sam Altman氏は2026年4月24日に公の場で謝罪している。
今回の保護者向けアラートは、「いつ当局に通報すべきか」という根本課題を解決するものではないものの、当時は存在しなかった「保護者への直接的な警告ルート」を新たに加えることになる。