**오픈AI(OpenAI)**가 폭력 위협이나 폭력 조장 행위로 인해 10대 이용자의 ChatGPT 계정을 비활성화할 경우, 계정과 연동된 부모·보호자에게 이를 통보하는 기능을 도입하며 가족 대상 안전 장치를 확대한다.
핵심 내용
- 심각한 폭력 관련 규정 위반으로 10대 계정이 비활성화되면, 연동된 부모·보호자에게 알림이 전송된다.
- 알림에는 제재 배경과 맥락이 담기지만, 10대의 개별 대화 내용은 공개되지 않는다.
- 부모는 ‘학습 모드(Study Mode)’를 설정할 수 있고, 10대 이용자에게는 휴식 권유 알림이 더 자주 노출된다.
오픈AI의 부모 알림 기능
오픈AI는 7월 16일 공지를 통해 새로운 정책을 발표했다. 자사 시스템이 폭력 위협이나 온라인 폭력 행위와 관련된 정책 위반을 이유로 연동된 10대 계정을 비활성화할 경우, 해당 부모·보호자에게 먼저 계정에 대한 “중요한 업데이트”가 도착한다.
보호자가 이 알림을 열면, 계정이 오픈AI의 폭력 관련 이용 규정을 위반해 비활성화됐다는 보다 상세한 설명을 확인할 수 있다. 다만 구체적인 채팅 기록이나 사적인 대화 내용은 통지서에 포함되지 않는다.
오픈AI는 2025년 부모 통제 기능을 도입해 성인이 자신의 계정을 10대 자녀 계정과 연동할 수 있도록 했다. 이를 통해 야간 사용 제한(조용한 시간 설정), 민감한 콘텐츠 노출 제한이 가능하며, ChatGPT가 자해 위험 신호를 감지할 경우 부모에게 별도 경고를 보내는 기능도 제공 중이다.
이번 업데이트로 부모는 관리 패널에서 곧바로 ‘학습 모드’를 활성화할 수 있다. 학습 모드가 켜지면 새로운 대화에서 안내형 질문과 단계별 설명 중심의 학습 보조 기능이 기본값으로 제공된다. 한편, ChatGPT를 장시간 사용하는 10대 이용자에게는 일정 간격으로 휴식을 권하는 알림이 더 자주 나타나도록 조정됐다.
오픈AI는 이 폭력 관련 알림 시스템을 온라인 폭력 모니터링·대응 단체인 **문샷(Moonshot)**과 공동 개발했다고 밝혔다.
함께 보기: Trezor, 지갑이 '완전 쓰레기'라는 ZachXBT 주장 반박
ChatGPT 안전 강화의 배경
문샷의 창립자이자 CEO인 **비드야 라말링감(Vidhya Ramalingam)**은 부모 알림 기능이 “심각한 우려가 더 큰 문제로 번지기 전에 가정이 개입할 기회를 제공한다”고 평가했다. 그는 “심각한 우려 신호가 포착됐을 때, 보다 구체적인 맥락으로 이어지는 통로를 제공하며 부모에게 통보하는 것은 매우 중요한 첫 단계”라고 강조했다.
오픈AI 측은 이 기능이 단순히 계정을 차단하는 데 그치지 않고, 현실 세계에서 책임 있는 성인들과의 대화를 유도하는 것을 목표로 한다고 설명했다. 동시에, 10대 이용자의 사생활 보호도 원칙적으로 유지한다는 입장이다.
이번 조치는 2026년 2월 10일 캐나다 브리티시 컬럼비아주 텀블러리지(Tumbler Ridge)에서 발생한 총기 난사 사건 이후 거세진 규제·여론의 압박 속에서 나왔다. 당시 오픈AI는 용의자의 계정을 2025년 6월 이미 폭력 활동 관련 위반으로 차단했지만, 수사 당국에는 별도 통보를 하지 않았고, 이에 대해 샘 올트먼(Sam Altman) CEO가 같은 해 4월 24일 공개 사과한 바 있다.
이번에 추가된 부모 알림 기능이 언제, 어떤 기준으로 수사기관에 보고해야 하는지에 대한 논란을 완전히 정리해 주는 것은 아니다. 다만 과거에는 존재하지 않았던 ‘직접적인 경고 채널’을 가정에 새로 부여했다는 점에서, 플랫폼 책임 범위를 넓히는 조치로 평가된다.