OpenAI plant unsichtbares Wasserzeichen für ChatGPT in der EU

OpenAI rüstet ChatGPT in der EU mit einem unsichtbaren Wasser­zeichen aus, um KI-Texte maschinell erkennbar zu machen. Doch wie viel Sinn ergibt das System, wenn der Austausch von zehn Prozent der Wörter die Trefferquote auf 66 Prozent senkt?

Wasserzeichen für Texte in der EU

Um die Transparenzvorgaben des EU-AI-Act zu erfüllen, will OpenAI in den kommenden Wochen geeignete Texte aus ChatGPT und Codex in der Europäischen Union über alle Tarife hinweg mit einem unsichtbaren Wasserzeichen versehen. KI-generierte Inhalte sollen damit maschinell erkennbar werden, für Leser bleibt die Kennzeichnung unsichtbar.

API-Kunden weltweit können die Funktion für ausgewählte Modelle auf Wunsch aktivieren. Die Technologie mit dem Namen textGrain fügt keine unsichtbaren Zeichen in Texte ein.


Stattdessen beeinflusst sie die zufällige Auswahl zwischen möglichen Wörtern und erzeugt so über längere Passagen ein statistisch nachweisbares Muster. Ein sogenanntes Entropiebudget soll begrenzen, wie stark die Wortvielfalt dadurch eingeschränkt wird, ohne die Textqualität zu beeinträchtigen.

Schwächen bei der Erkennung

Wie OpenAI erklärt, hat die Technik Einschränkungen. Die Erkennung hängt von Länge und Art des Textes ab. Bei einer Falsch-Positiv-Rate von einem Prozent soll der Detektor das Wasserzeichen bei Texten mit 400 Token in rund 95 Prozent der Fälle erkennen. Bei 200 Token liegt die Quote bei etwa 80 Prozent. Kurze Passagen und mathematische Antworten lassen sich schlechter identifizieren.

Auch Bearbeitungen schwächen das Signal deutlich. Werden zehn Prozent der Wörter durch Synonyme ersetzt, sinkt die Erkennungsrate laut OpenAI auf 66 Prozent. Bei 25 Prozent ersetzter Wörter fällt sie auf 17 Prozent.

Vergleich mit anderen Anbietern

OpenAI folgt damit anderen Anbietern. Google veröffentlichte seine Text-Wasserzeichen-Technologie SynthID 2024 als Open Source. Die Technik verändert ebenfalls die Wahrscheinlichkeiten bei der Auswahl von Textbausteinen und soll für Leser unsichtbar bleiben.

Herkunfts­nachweise bei OpenAI nach Inhaltstyp
Inhaltstyp	Herkunfts­signale	Hinweise
Bilder	Content Credentials und SynthID-Wasser­zeichen	Mit ChatGPT, Codex oder der OpenAI-API generierte Bilder enthalten beide Signale.
Audio	SynthID-Wasser­zeichen	Von ChatGPT oder der OpenAI-API erzeugtes Audio enthält ein unhörbares Wasser­zeichen, das direkt in die Tonspur eingebettet ist.
Text	textGrain-Wasser­zeichen (nur EU)	In der EU verändert ChatGPT unsichtbar den Zufallsanteil bei der Wortwahl des Modells, um die Vorgaben der KI-Verordnung (AI Act) zu erfüllen. API-Kunden können Text-Wasser­zeichen weltweit in den Projekt- oder Organi­sations­ein­stel­lungen aktivieren.

Auch Anthropic kennzeichnet Texte unterstützter Claude-Modelle mit einem unsichtbaren Wasserzeichen. Die Markierung wird auf Modellebene eingesetzt und gilt für die unterstützten Angebote weltweit.

textGrain setzt auf einen eigenen Ansatz, der das Verhältnis von Erkennbarkeit und Antwortvielfalt steuern soll. Eine Prüfung durch Endnutzer ist vorerst nicht möglich, da der Zugang zum Detektor auf zugelassene Forschungseinrichtungen beschränkt bleibt.

Wie bewertet ihr die Einführung solcher Wasserzeichen für KI-Texte? Haltet ihr die Technik trotz der leichten Umgehbarkeit für sinnvoll? Teilt eure Meinung in den Kommentaren!

Siehe auch: