OpenAI will künftig verknüpfte Erziehungsberechtigte informieren, wenn Teenager den Zugriff auf ChatGPT verlieren, weil sie gegen Regeln zu Gewaltandrohungen oder Gewalthandlungen verstoßen. Damit weitet das Unternehmen seine Sicherheitsfunktionen für Familien aus.
Zentrale Punkte:
- Verknüpfte Eltern erhalten eine Benachrichtigung, wenn ein Teenager-Konto wegen schwerer, gewaltbezogener Verstöße deaktiviert wird.
- Die Mitteilung liefert zusätzlichen Kontext, ohne private Chats des Teenagers offenzulegen.
- Eltern können außerdem den Study Mode aktivieren, während Teenager häufiger Pausenerinnerungen erhalten.
OpenAI-Benachrichtigungen für Eltern
OpenAI hat die Neuerung am 16. Juli in einem Blogeintrag vorgestellt. Demnach greift die Benachrichtigung, wenn die Systeme des Unternehmens ein verknüpftes Teenager-Konto nach Richtlinienverstößen im Zusammenhang mit Gewaltandrohungen oder online geäußerter Gewalt deaktivieren. Eltern oder Sorgeberechtigte sehen zunächst einen „wichtigen Hinweis“ zum betreffenden Konto.
Über diesen Hinweis lässt sich eine ausführlichere Erläuterung öffnen, in der steht, dass das Konto wegen Verstößen gegen die Gewaltregeln der Plattform gesperrt wurde. Der Chatverlauf des Teenagers oder konkrete private Unterhaltungen werden dabei nicht offengelegt.
OpenAI hatte 2025 erstmals Elternkontrollen eingeführt. Erwachsene können seitdem ihre Konten mit denen ihrer jugendlichen Kinder verknüpfen, Ruhezeiten festlegen und sensible Inhalte einschränken. Außerdem erhalten sie Hinweise, wenn ChatGPT mögliche Anzeichen von Suizidgefahr erkennt.
Mit dem aktuellen Update können Eltern über das Kontrollpanel nun auch den Study Mode aktivieren. Dort stehen in neuen Chats geführte Fragetechniken und Schritt-für-Schritt-Hilfen standardmäßig im Vordergrund. Teenager, die besonders lange in ChatGPT aktiv bleiben, sehen künftig zudem häufiger Aufforderungen, eine Pause einzulegen.
Die neue Gewalt-Benachrichtigung hat OpenAI gemeinsam mit Moonshot entwickelt, einer Organisation, die sich auf die Beobachtung und Eindämmung von Online-Gewalt spezialisiert hat.
Lesen Sie auch: Trezor weist ZachXBTs Vorwurf zurück, Wallets seien kompletter Schrott
ChatGPT-Sicherheitskontext
Vidhya Ramalingam, Gründerin und CEO von Moonshot, betont, dass Benachrichtigungen an Eltern Familien die Chance geben, frühzeitig einzugreifen, bevor sich ein ernstes Problem zuspitzt. „Eltern zu informieren, wenn ein schwerwiegender Verdachtsfall auftaucht – und dabei einen Weg zu mehr Kontext zu eröffnen – ist ein entscheidender erster Schritt“, sagte sie.
Die Funktion ist bedeutsam, weil Maßnahmen auf Kontoebene bislang zwar den Zugang entzogen, verantwortliche Erwachsene aber oft nicht einbezogen haben. OpenAI erklärt, man wolle mit dem neuen Ansatz Gespräche im direkten Umfeld anstoßen, gleichzeitig aber die Privatsphäre jugendlicher Nutzer schützen.
Der Ausbau erfolgt vor dem Hintergrund der Kritik nach dem Amoklauf vom 10. Februar 2026 im kanadischen Tumbler Ridge (British Columbia). OpenAI hatte das Konto des späteren Tatverdächtigen bereits im Juni 2025 wegen Verstößen im Zusammenhang mit Gewaltaktivitäten gesperrt, es jedoch nicht an die Strafverfolgungsbehörden gemeldet. Sam Altman entschuldigte sich dafür am 24. April öffentlich.
Die neue Elternbenachrichtigung beantwortet zwar nicht die Frage, wann genau Behörden eingeschaltet werden sollten, schafft aber einen direkten Warnkanal, der beim damaligen Fall noch fehlte.
Als Nächstes lesen: Topmanager warnen: Sechs Behörden haben Frist für GENIUS-Act-Regeln verfehlt