OpenAI testet ein Sicherheitssystem, das Missbrauch erkennt, ohne Kundendaten zu speichern – ein direkter Affront gegen die neue 30-Tage-Speicherpflicht von Wettbewerber Anthropic.
Zentrale Punkte:
- OpenAI stellt „Private Safety Processing“ vor, ein Tool, das Missbrauchsmuster über zusammenhängende Sitzungen hinweg erkennt, ohne Prompts oder Antworten der Kunden zu speichern.
- Anthropic verlangt von Unternehmenskunden seiner leistungsfähigsten Modelle eine 30-tägige Datenspeicherung und begründet dies mit der Notwendigkeit, mehrstufige Angriffe aufzudecken.
- Ein breiterer Rollout und ein technisches Whitepaper sind für September angekündigt.
Private Safety Processing zielt auf Missbrauch über mehrere Sitzungen
Das Unternehmen kündigte die Preview am Mittwoch an und präsentierte sie als Erweiterung von Zero Data Retention – jenem Modell, bei dem OpenAI weder Prompts noch Modellantworten aufbewahrt, sobald eine Anfrage verarbeitet ist. Ein breiterer Rollout und ein technisches Whitepaper sind für September geplant.
Im neuen Ansatz verbleiben Kundendaten entweder vollständig auf der Infrastruktur des Auftraggebers oder liegen verschlüsselt in OpenAI-Speichern, wobei nur der Kunde die Schlüssel kontrolliert. Automatisierte Werkzeuge analysieren die Inhalte auf Missbrauchsmuster über inhaltlich verknüpfte Sitzungen hinweg. Das Design deckt auch agentische Szenarien ab, in denen ein System weiter agiert, nachdem der Nutzer ihm eigentlich Einhalt geboten hat. Mitarbeitende erhalten keinen Einblick in die Rohdaten.
Aleah Houze, Leiterin Produktpolitik bei OpenAI, sagte gegenüber Reporter:innen, gefährliche Nutzung werde oft erst sichtbar, wenn mehrere Interaktionen im Zusammenhang betrachtet werden. Sie nannte als Beispiel einen Nutzer, der in einer Unterhaltung nach Softwareschwachstellen fragt und in einer anderen nach Remote-Access-Tools.
Auch interessant: Claudes verstecktes Wasserzeichen pervertiert die Kunst des Schreibens, sagt Gruber
Speicherpflicht von Anthropic treibt Keil zwischen die Rivalen
Anthropic hat im Juli einen entgegengesetzten Kurs festgelegt: Für Unternehmenskunden, die die leistungsfähigsten Modelle wie Fable 5 und Mythos 5 einsetzen, gilt eine verpflichtende Datenspeicherung von 30 Tagen.
Das Forschungsunternehmen räumte ein, dass die Vorgabe unpopulär sein und das Geschäft belasten könnte, bezeichnete die Protokolle aber als unverzichtbar, um Angriffe aufzudecken, die bewusst über viele einzelne Anfragen gestreut werden. Menschliche Überprüfung bleibt möglich, allerdings nur über einen streng kontrollierten Zugang für einen kleinen Kreis zugelassener Prüfer. Jede Sitzung wird in einem fälschungssicheren Protokoll erfasst.
Analysten zweifeln an OpenAIs Timing und Belegführung
Brian Levine, Executive Director der Organisation FormerGov, nannte in einem Kommentar das Versprechen eine starke technische Zusage – gerade weil Missbrauchsmonitoring und Datensparsamkeit traditionell in Spannung zueinander stehen.
Er verwies zugleich darauf, dass der eigentliche Beleg erst Wochen später kommen soll. Jason Andersen von Moor Insights and Strategy wertete die Ankündigungen der Woche auch als strategische Positionierung im Vorfeld eines möglichen Börsengangs.
Flavio Villanustre, Chief Information Security Officer bei LexisNexis Risk Solutions Group, sah in der Preview den Versuch, erwartete Regulierung im Vorfeld zu entschärfen.
Die Vorstellung des Systems krönt eine Woche, in der OpenAI verstärkt auf Sicherheitsbotschaften setzte. Am Dienstag hatte das Unternehmen mitgeteilt, man habe das Kapazitätswachstum verlangsamt und das Reinforcement-Learning-Training pausiert, um die Forschungsumgebung zu härten und intensiv zu „red-team-en“. Zugleich schätzt OpenAI, dass das erweiterte Monitoring rund 20 % der für überwachte Inferenz genutzten Rechenleistung beanspruchen wird.
Als Nächstes lesen: Bitcoin könnte vor dem Halving 2028 erneut die Marke von 100.000 Dollar testen, sagt Scaramucci
