ChatGPT因暴力威胁封停青少年账号后 将主动向家长说明原因

ChatGPT因暴力威胁封停青少年账号后 将主动向家长说明原因

OpenAI 正扩大家庭安全机制:当青少年用户因发布暴力威胁或涉及暴力行为而被封禁 ChatGPT 账号时,已绑定的家长将收到系统通知。

要点速览:

  • 青少年账号因严重涉暴违规被停用后,绑定家长将获系统告警。
  • 通知会说明封号原因,但不会披露未成年人的具体聊天内容。
  • 家长可远程开启“学习模式”,青少年端则会更频繁收到休息提醒。

OpenAI 家长告警新机制

OpenAI 于 7 月 16 日宣布,当其系统依据涉暴威胁或暴力行为相关政策封禁已绑定的青少年账号时,将向监护人发送通知。家长首先会看到一则关于该账号的“重要更新”。

进一步展开后,提示会给出更详细说明,指出该账号因违反平台暴力相关规则而被停用。但通知不会包含青少年的聊天记录,也不会披露具体私密对话。

OpenAI 于 2025 年上线家长管控功能,允许成年人将个人账号与青少年子女账号绑定。家长可以设定“安静时段”、限制敏感内容,并在 ChatGPT 识别到可能涉及自残风险时收到预警。

最新更新还允许家长在控制面板中直接启动“学习模式”,让引导式提问与分步讲解成为新对话的默认形式。若青少年长时间停留在 ChatGPT 中,系统将更频繁地提醒他们适时休息。

OpenAI 与专注监测和对抗网络暴力的机构 Moonshot 合作设计了这套涉暴通知机制。

相关阅读:Trezor 驳斥 ZachXBT“钱包完全是垃圾”的指控

ChatGPT 安全背景

Moonshot 创始人兼首席执行官 Vidhya Ramalingam 表示,家长通知机制为家庭提供了在问题恶化前及时介入的机会。她指出,“当出现严重风险时通知家长,并提供获取更多背景信息的路径,是关键的第一步。”

她强调,仅靠封禁账号往往只是切断访问权限,却不一定能让负责任的成年人介入。OpenAI 称,新机制意在推动线下沟通,同时继续保护青少年用户的隐私。

此次扩展也与外界对 2026 年 2 月 10 日发生在加拿大不列颠哥伦比亚省汤布勒里奇的大规模枪击案的审视有关。据披露,OpenAI 早在 2025 年 6 月就已因暴力行为违规封禁了嫌疑人的账号,但当时并未通知执法机构,Sam Altman 已于 4 月 24 日公开致歉。

新增的家长告警机制并未直接解决“何时应通报警方”这一更具争议的问题,但为平台与家庭之间增添了一条此前并不存在的预警通道。

下篇阅读:高管警示六家机构未在期限内完成 GENIUS 法案配套规则

免责声明和风险警告: 本文提供的信息仅用于教育和信息目的,基于作者的意见。它不构成财务、投资、法律或税务建议。 加密货币资产具有高度波动性并面临高风险,包括失去全部或大部分投资的风险。交易或持有加密资产可能不适合所有投资者。 本文表达的观点仅为作者的观点,不代表Yellow、其创始人或高管的官方政策或立场。 在做出任何投资决定之前,请务必进行自己的全面研究(D.Y.O.R.)并咨询持牌金融专业人士。
ChatGPT因暴力威胁封停青少年账号后 将主动向家长说明原因 | Yellow