Nach der Ankündigung von Anthropic führt auch OpenAI in der Europäischen Union schrittweise unsichtbare Wasserzeichen für Textausgaben von ChatGPT und Codex ein. Hintergrund sind Vorgaben des EU AI Act, nach denen generierte Texte maschinenlesbar als KI-Inhalte erkennbar sein sollen. Für API-Kunden weltweit ist die Funktion ab sofort bei ausgewählten Modellen optional verfügbar, bleibt dort aber standardmäßig deaktiviert.
textGrain verändert statistisch die Wortwahl
Die von OpenAI entwickelte Technologie heißt „textGrain“. Sie fügt den erzeugten Texten ein unsichtbares statistisches Signal hinzu, das sich aus der Wortwahl des Modells ergibt. Ein spezieller Detektor prüft anschließend, ob dieses Muster vorhanden ist.
OpenAI betont allerdings, dass die Technik klare Grenzen hat. Kurze Texte und Inhalte mit wenig sprachlichem Spielraum lassen sich schlechter erkennen. Bei 200 Tokens lag die Erkennungsrate in einem Psychologie-Test bei rund 80 Prozent, bei 400 Tokens bei etwa 95 Prozent – jeweils bei einer angestrebten Falsch-Positiv-Rate von 1 Prozent.
Gewinnen in der Plattform-Ökonomie
Bearbeitungen schwächen das Wasserzeichen deutlich
Schon vergleichsweise kleine Änderungen können die Erkennung erheblich verschlechtern. In einem Test mit 400 Tokens sank die Detektionsrate von rund 92 Prozent auf 66 Prozent, wenn 10 Prozent der Wörter durch Synonyme ersetzt wurden.
Bei einem Austausch von 25 Prozent der Wörter fiel sie auf nur noch 17 Prozent. OpenAI weist deshalb ausdrücklich darauf hin, dass ein fehlendes Wasserzeichen nicht beweist, dass ein Text von einem Menschen geschrieben wurde. Auch Übersetzungen und andere Bearbeitungen können das Signal abschwächen.
Detektor bleibt vorerst nicht öffentlich
Zugriff auf das Erkennungswerkzeug erhalten zunächst nur zugelassene Forschende und Fachorganisationen. Interessenten können sich dafür bewerben, die Freigabe erfolgt jedoch zunächst einzeln.
Der Detektor soll ausschließlich melden, ob ein OpenAI-Wasserzeichen erkannt wurde. Rückschlüsse auf Nutzer, Konten, Prompts oder konkrete Gespräche sollen damit nicht möglich sein. Wegen möglicher Fehlalarme und übersehener Wasserzeichen verzichtet OpenAI zunächst auf eine öffentliche Freigabe.
Wasserzeichen sagt nichts über Urheberschaft oder Richtigkeit aus
OpenAI grenzt die Aussagekraft der Technik deutlich ein. Ein erkanntes Signal zeigt lediglich, dass ein OpenAI-System an einem Text beteiligt gewesen sein könnte. Es gibt keine Auskunft darüber, wie stark Menschen den Inhalt bearbeitet oder kreativ mitgestaltet haben.
Auch Eigentum, rechtliche Verantwortung und inhaltliche Richtigkeit lassen sich daraus nicht ableiten. Das Wasserzeichen soll zudem keine Person oder Organisation identifizieren.
Einführung bleibt zunächst auf die EU begrenzt
In den kommenden Wochen sollen berechtigte ChatGPT- und Codex-Nutzer in allen Tarifen innerhalb der EU wassergezeichnete Textausgaben erhalten. Einen weltweiten Standard plant OpenAI zum Start ausdrücklich nicht.
Parallel will das Unternehmen textGrain als Open-Source-Technologie verfügbar machen und die Verfahren weiterentwickeln. Bei Bildern und Audio setzt OpenAI bereits auf andere Herkunftssignale wie Content Credentials, C2PA und unsichtbare SynthID-Wasserzeichen.
