ChatGPT 因暴力威脅停用青少年帳號 將主動通知家長並說明原因

ChatGPT 因暴力威脅停用青少年帳號 將主動通知家長並說明原因

OpenAI 擴大家庭安全控管機制,未來只要青少年因發出暴力威脅或涉及暴力行為而違反使用規範、被停用 ChatGPT 帳號時,已綁定的家長帳號就會收到系統提醒。

重點摘要:

  • 青少年帳號若因嚴重暴力相關違規遭停權,綁定的家長會收到系統警示。
  • 通知會提供違規背景說明,但不會揭露青少年的具體對話內容。
  • 家長可從控制面板啟用「學習模式」,而青少年用戶則會更頻繁收到「該休息一下」的提醒。

OpenAI 家長通知新機制

OpenAI 在 7 月 16 日宣布,當系統依照暴力威脅或線上暴力行為相關政策停用已綁定的青少年帳號時,將啟用新的家長通知流程。家長或監護人首先會在帳號中看到一則「重要更新」提示。

點開後,家長會看到較完整的說明,知悉該帳號因違反公司有關暴力的規範而遭到停用。通知不會包含青少年的聊天紀錄,也不會透露具體的私人對話內容。

OpenAI 自 2025 年起推出家長監控工具,允許成人帳號與青少年子女帳號綁定,家長可設定「安靜時段」、限制敏感內容,並在 ChatGPT 偵測到疑似自我傷害風險時收到警示。

這次更新也讓家長能直接在控制面板啟用「學習模式」,使引導式提問與步驟分解說明成為新對話的預設互動方式。若青少年長時間持續使用 ChatGPT,也會更頻繁收到休息提醒。

OpenAI 與致力監測並對抗網路暴力的組織 Moonshot 合作,設計出這套暴力相關違規的家長通知流程。

延伸閱讀:Trezor 反駁 ZachXBT 指控錢包「爛到不行」

ChatGPT 安全機制背景

Moonshot 創辦人兼執行長 Vidhya Ramalingam 表示,主動通知家長有助於家庭及早介入,避免潛在風險進一步擴大。她說:「當出現嚴重疑慮時通知家長,並提供取得更多背景的管道,是關鍵的第一步。」

這項功能之所以重要,是因為過去僅靠帳號執法,多半只是在平台上切斷使用權限,卻未必能把負責的成人帶進情況之中。OpenAI 說,新作法希望在維持青少年隱私的前提下,促進線下溝通與介入。

此次擴充也與 2026 年 2 月 10 日發生在加拿大卑詩省 Tumbler Ridge 的大規模槍擊案後所引發的外界檢視有關。OpenAI 曾於 2025 年 6 月,因暴力行為違規而封鎖該案嫌犯帳號,但當時並未通報執法機關,Sam Altman 其後在 4 月 24 日公開致歉。

目前家長通知機制並未直接解答「何時應通報警方」這一關鍵爭議,但至少新增了一條過去不存在的直接警示管道,在嚴重風險升高之前,把家長納入資訊流。

接著看:高層示警六個聯邦機關錯過 GENIUS 法規定期限

免責聲明與風險警告: 本文提供的資訊僅供教育與參考用途,並基於作者觀點,不構成財務、投資、法律或稅務建議。 加密貨幣資產具有高度波動性並伴隨高風險,包括可能損失全部或大部分投資金額。買賣或持有加密資產可能並不適合所有投資者。 本文中所表達的觀點僅代表作者立場,不代表 Yellow、其創辦人或管理層的官方政策或意見。 請務必自行進行充分研究(D.Y.O.R.),並在做出任何投資決策前諮詢持牌金融專業人士。
ChatGPT 因暴力威脅停用青少年帳號 將主動通知家長並說明原因 | Yellow