OpenAI testet ein Sicherheitssystem, das Missbrauch meldet, ohne Kundendaten zu speichern – ein direkter Affront gegen die neue 30‑Tage-Speicherpflicht des Rivalen Anthropic.
Wichtigste Punkte:
- OpenAI stellt „Private Safety Processing“ vor, ein Tool, das Muster von Missbrauch über zusammenhängende Sitzungen erkennt, ohne Eingaben oder Antworten der Kunden zu behalten.
- Anthropic verlangt von Unternehmenskunden auf seinen leistungsstärksten Modellen eine 30‑tägige Datenspeicherung und bezeichnet die Protokolle als nötig, um mehrstufige Angriffe aufzudecken.
- Ein breiterer Rollout und ein technisches Whitepaper sind für September angekündigt.
Private Safety Processing zielt auf Missbrauch über mehrere Sessions
Das Unternehmen kündigte die Preview am Mittwoch an und positioniert sie als Erweiterung von „Zero Data Retention“ – der Vereinbarung, nach der OpenAI weder Prompts noch Modellantworten über die eigentliche Verarbeitung hinaus speichert. Ein breiterer Start sowie ein technisches Whitepaper sind für September geplant.
Im neuen Setup verbleiben Inhalte entweder vollständig auf Infrastruktur, die der Kunde kontrolliert, oder in OpenAI-Speichern, die mit Schlüsseln verschlüsselt sind, welche ausschließlich der Kunde hält. Automatisierte Systeme analysieren diese Inhalte auf Missbrauchsmuster über verwandte Sitzungen hinweg. Das Design umfasst ausdrücklich auch agentisches Verhalten, bei dem ein System weiter agiert, nachdem der Nutzer es eigentlich gestoppt hat. Mitarbeiter bekommen die Inhalte nie zu sehen.
Aleah Houze, Leiterin der Produktpolitik bei OpenAI, sagte gegenüber Reporter:innen, gefährliches Verhalten zeige sich häufig erst im Zusammenspiel mehrerer Interaktionen. Als Beispiel nannte sie einen Nutzer, der in einer Unterhaltung Software-Schwachstellen auslotet und in einer anderen nach Remote-Access-Tools fragt.
Auch interessant: Claude's verstecktes Wasserzeichen verdirbt die Schreibkunst, sagt Gruber
Anthrophics Speicherpflicht treibt Keil zwischen die Rivalen
Anthropic hat im Juli einen gegenteiligen Kurs festgeschrieben: Unternehmenskunden, die die leistungsfähigsten Modelle wie Fable 5 und Mythos 5 nutzen, müssen 30 Tage lang Daten vorhalten.
Das Forschungslabor räumte ein, dass die Regel unpopulär sei und dem Geschäft schaden könne, bezeichnete die Protokolle aber als unverzichtbar, um Angriffe zu erkennen, die bewusst über viele Anfragen verteilt werden. Menschliche Prüfungen bleiben möglich, allerdings nur über einen streng kontrollierten Prozess mit einem kleinen Kreis autorisierter Prüfer. Jede Sitzung wird in einem fälschungssicheren Log festgehalten.
Analysten stellen OpenAIs Timing und Belegbarkeit infrage
Brian Levine, Executive Director beim Thinktank FormerGov, bezeichnete in einem Kommentar das Versprechen als „starke technische Zusage“, da Missbrauchsüberwachung und Datenblindheit traditionell in entgegengesetzte Richtungen ziehen.
Er verwies zugleich darauf, dass der harte Beweis erst Wochen später kommen werde. Jason Andersen von Moor Insights and Strategy wertete die Ankündigungen der Woche teilweise als Manöver mit Blick auf einen möglichen Börsengang.
Flavio Villanustre, Chief Information Security Officer bei LexisNexis Risk Solutions Group, sah den Versuch, die seiner Ansicht nach absehbare Regulierung abzumildern.
Die Preview bildet den Schlusspunkt einer Woche, in der OpenAI stark auf Sicherheitsbotschaften setzte. Am Dienstag hatte das Unternehmen erklärt, das weitere Hochskalieren zu bremsen und das Training für Reinforcement Learning zu pausieren, während die Forschungsumgebung gehärtet und per Red-Teaming getestet werde. Zudem schätzt OpenAI, dass die ausgeweitete Überwachung rund 20 % der Inferenz-Rechenleistung beanspruchen wird, die unter Beobachtung steht.
Weiterlesen: Bitcoin könnte vor dem Halving 2028 wieder 100.000 US‑Dollar erreichen, sagt Scaramucci
