**오픈AI(OpenAI)**가 폭력 위협·행위 규정을 위반해 청소년의 챗GPT 이용을 제한할 경우, 계정과 연동된 보호자에게 이를 통보하는 기능을 도입하며 ‘가족용 안전 장치’를 강화했다.
핵심 내용:
- 폭력 관련 중대한 규정 위반으로 청소년 계정이 비활성화되면 연동된 보호자에게 알림이 발송된다.
- 알림에는 위반 사유에 대한 설명이 담기지만, 청소년의 개별 대화 내용은 공개되지 않는다.
- 보호자는 ‘학습 모드(Study Mode)’를 켤 수 있고, 청소년 계정에는 더 자주 휴식 알림이 표시된다.
오픈AI, 보호자 알림 기능 도입
오픈AI는 7월 16일 발표를 통해, 자사 시스템이 온라인 폭력 위협 또는 폭력 행위 관련 정책을 근거로 연동된 청소년 계정을 비활성화할 경우 보호자에게 이를 통지하는 정책 변경을 시행한다고 밝혔다. 보호자는 먼저 해당 계정에 대한 ‘중요 업데이트’ 알림을 받게 된다.
이후 알림을 열면, 폭력 관련 사내 규정 위반으로 계정이 비활성화됐다는 보다 상세한 설명을 확인할 수 있다. 이때 청소년의 채팅 기록이나 구체적인 개인 대화 내용은 공유되지 않는다.
오픈AI는 2025년부터 보호자 계정 연동 기능을 도입해, 성인이 본인 계정과 자녀(청소년) 계정을 연결할 수 있도록 했다. 보호자는 특정 시간대 이용 제한(조용한 시간 설정), 민감한 콘텐츠 노출 제한 등을 설정할 수 있으며, 챗GPT가 자해 위험 신호를 감지할 경우 경고 알림을 받는다.
이번 업데이트로 보호자는 관리 화면에서 ‘학습 모드(Study Mode)’를 켤 수 있게 됐다. 이 모드에서는 새로운 채팅에서 안내형 질문과 단계별 풀이 지원이 기본값으로 적용된다. 한편, 챗GPT를 장시간 이용하는 청소년에게는 휴식을 권유하는 알림이 이전보다 더 자주 표시된다.
오픈AI는 이번 폭력 관련 알림 기능을 온라인 폭력 모니터링 및 대응 단체인 **문샷(Moonshot)**과 공동 개발했다.
관련 기사: Trezor가 ZachXBT의 “지갑은 완전 쓰레기” 주장 반박
챗GPT 안전 장치의 맥락
문샷의 창립자이자 CEO인 **비드야 라말링감(Vidhya Ramalingam)**은 보호자 통지가 심각한 문제로 번지기 전에 가정 차원의 개입 기회를 제공한다고 강조했다. 그는 “심각한 우려가 포착됐을 때, 더 많은 맥락에 접근할 수 있는 통지 경로를 보호자에게 제공하는 것은 매우 중요한 첫 단계”라고 말했다.
오픈AI는 단순히 계정을 차단하는 조치만으로는 책임 있는 성인을 상황에 개입시키지 못할 수 있다고 지적한다. 이번 접근법은 청소년 이용자의 프라이버시는 지키면서도, 오프라인에서의 대화와 개입을 유도하는 데 초점을 맞춘 것이다.
이번 조치는 2026년 2월 10일 캐나다 브리티시컬럼비아주 텀블러리지(Tumbler Ridge)에서 발생한 대규모 총격 사건 이후 제기된 비판을 배경으로 한다. 오픈AI는 당시 용의자의 계정을 2025년 6월 폭력 활동 관련 규정 위반으로 이미 차단했지만, 사법 당국에 별도 통보를 하지 않았다. 이에 대해 샘 알트먼(Sam Altman) CEO는 4월 24일 공개적으로 사과한 바 있다.
이번 보호자 알림 기능이 언제 당국에 통보해야 하는지에 관한 논쟁을 완전히 해소하는 것은 아니다. 다만, 과거에는 존재하지 않던 ‘직접적인 경고 채널’을 가정에 제공함으로써, 계정 차단 시점과 현실 세계의 대응 사이에 새로운 연결 고리를 추가했다는 점에서 의미가 있다.
