OpenAI führt in der Europäischen Union ein unsichtbares Wasserzeichen für von ChatGPT und Codex erzeugte Texte ein. Interne Tests zeigen jedoch: Bereits der Austausch von 10 % der Wörter reduziert die Erkennungsquote auf 66 %.
Wichtigste Punkte:
- Das Wasserzeichen wird in den kommenden Wochen für berechtigte ChatGPT- und Codex-Nutzer in der EU auf allen Tarifen ausgerollt; für API-Kunden bleibt es optional.
- Werden 25 % der Wörter durch Synonyme ersetzt, sinkt die Erkennungsrate in OpenAIs eigenen Tests auf 17 %.
- Zugang zum Erkennungs-Tool bleibt zum Start auf ausgewählte Forschende und Fachorganisationen beschränkt.
Rollout des OpenAI-Wasserzeichens
Das Unternehmen hat den Schritt am Montag in einem Blogbeitrag angekündigt. Demnach wird die Kennzeichnung in den kommenden Wochen für berechtigte ChatGPT- und Codex-Nutzer in der EU auf allen Tarifen aktiviert. Ein globaler Standard wird sie zum Start nicht.
Entwickler, die die API von OpenAI weltweit nutzen, können die Funktion für ausgewählte Modelle ab sofort einschalten, standardmäßig bleibt sie jedoch deaktiviert. Der Schritt reagiert auf den EU AI Act, dessen Kennzeichnungspflichten seit dem 2. August gelten und verlangen, dass KI-generierter Text maschinell erkennbar sein muss. Anbieter, die bereits am Markt sind, haben noch bis zum 2. Dezember Zeit, die Vorgaben umzusetzen.
Auch interessant: Binance-KI-Agent baut Strategien aus Klartext und verlangt 19,99 USDC pro Trade
Grenzen der TextGrain-Erkennung
Die Methode mit dem Namen textGrain fügt keine sichtbaren Marker ein, sondern beeinflusst subtil die Wortwahl des Modells. So entsteht ein statistisches Muster, das ein Detector erkennen kann – und das auch in kopierten Texten bestehen bleibt. OpenAI zufolge erreicht oder übertrifft der Ansatz die getesteten Alternativen, darunter Googles SynthID für Text. Die Technologie soll als Open Source veröffentlicht werden.
Bearbeitungen schwächen dieses Signal jedoch erheblich.
In einer Auswertung von Passagen mit 400 Tokens sank die Erkennungsquote von rund 92 % auf 66 %, wenn 10 % der Wörter durch Synonyme ersetzt wurden. Wurden 25 % der Wörter ausgetauscht, fiel sie auf 17 %. Auch kurze Passagen, mathematische Antworten und Übersetzungen sind schwerer zu markieren: Bei 200-Token-Texten etwa zu psychologischen Themen erkannte der Detector rund 80 % der Fälle, bei einer Falsch-Positiv-Rate von 1 %.
Zugang zum ChatGPT-Detector
OpenAI beschränkt den Zugriff auf das Erkennungstool vorerst auf ausgewählte Forschende und spezialisierte Organisationen. Begründet wird dies mit dem Risiko übersehener Wasserzeichen und falscher Treffer. Zudem warnt das Unternehmen: Das Fehlen eines Wasserzeichens „beweist keine menschliche Urheberschaft“. Das Markierungssystem liefert weder Hinweise auf die Identität des Nutzers noch auf Account oder Prompt hinter einem Text.
Der Schritt folgt auf Anthropic, das im August angekündigt hatte, sämtliche von Claude generierten Texte weltweit zu kennzeichnen – ein Beschluss, der auf Kritik einiger Anwender stieß. OpenAI hatte bereits früher ein Text-Wasserzeichen entwickelt, es jedoch zurückgehalten, unter anderem aus Sorge, Nutzer könnten zu Konkurrenzangeboten wechseln, wie ein Medienbericht aus dem Jahr 2024 nahelegte. Beide Unternehmen haben sich zusammen mit Google, Meta und Microsoft verpflichtet, den EU-Verhaltenskodex für Transparenz bei KI-generierten Inhalten umzusetzen.
Mehr dazu: Giorgia Meloni will ihre Stimme als Marke schützen – bremst das KI-Deepfakes aus?
