OpenAI hat Tool zur KI-Erkennung lange fertig - hält es aber zurück

OpenAI verfügt wohl selbst bereits über eine Technologie, mit der KI-generierte Texte sehr zuverlässig erkannt werden können. Trotz bestehender Marktreife wird diese aber nicht veröffentlicht - weil man befürchtet, ChatGPT-Nutzer zu verlieren.

Wasserzeichen in ChatGPT-Texten

Das Projekt zur Arbeit an dem Tool wird intern bei OpenAI seit rund zwei Jahren betrieben, seit etwa einem Jahr soll das dabei entstandene Analyse-Tool im Grunde für einen Release bereitstehen. "Es ist nur die Frage eines Knopfdrucks", erläuterte eine Quelle laut einem Bericht des Wall Street Journals die Situation.

Die Verantwortlichen zögern aber immer wieder, die Technologie öffentlich zu machen und es so unter anderem Lehrkräften zu erleichtern, KI-generierte Plagiate zu erkennen. Hintergrund dessen seien interne Marktforschungen, nach denen ein Drittel der ChatGPT-Nutzer vor der Verwendung des Chatbots zurückschrecken würde, wenn solche Anti-Cheating-Tools mit hoher Treffsicherheit allgemein verfügbar wären.


Insbesondere wäre natürlich zu befürchten, dass OpenAI Nutzer an die Konkurrenz verliert. Denn das System arbeitet so, dass ChatGPT selbst kaum merkliche Besonderheiten in einen Text einfügt - ähnlich eines Wasserzeichens in Bildern. Das zugehörige Analyse-Tool würde also nur computergenerierte Texte erkennen, die vom eigenen Chatbot geschrieben wurden - das aber wohl mit einer Genauigkeit von 99,9 Prozent, wie es hieß.

Keine klare Linie

Die Beschränkung auf ChatGPT ist dabei nicht das einzige Problem. Wahrscheinlich ließe sich die Technologie auch recht einfach aushebeln - es ist beispielsweise davon auszugehen, dass das Wasserzeichen verschwindet, wenn ein Text mit einer Übersetzer-KI in eine andere Sprache und wieder zurück übersetzt wird. Dann wäre der Nutzen des Tools weg, während man die eigenen User abschreckt.

Generell seien sich die OpenAI-Manager auch nicht einig gewesen, wie eine Veröffentlichung vonstattengehen könnte. So befürchtete man, dass ein allgemeiner Vertrieb schnell dazu führen würde, dass Dritte die Funktionsweise des Wasserzeichen-Verfahrens analysieren und dadurch unbrauchbar machen können. Aber auch eine gezielte Vermarktung an Lehrkräfte stand zur Diskussion - was aber mit einem erheblichen Aufwand verbunden wäre.


Siehe auch: