ChatGPT: Erkennungs-Tool für KI-Texte stillschweigend zurückgezogen

Der ChatGPT-Entwickler OpenAI hat sein Tool zur Erkennung KI-generierter Texte stillschweigend zurückgezogen. In das Werkzeug hatten unter anderem Lehrkräfte einige Hoffnung gesteckt, um zu erkennen, ob nun Schüler oder Computer eine Hausarbeit geschrieben haben.

Versteckter Hinweis

OpenAI hatte den AI Classifier im Januar bereitgestellt, als in der ersten großen Hype-Welle um den Chatbot die Sorgen wuchsen, dass man bald an allen möglichen Stellen von KI-Texten überschwemmt werden könnte. Dies galt insbesondere dort, wo schriftliche Ausführungen entweder mit Geldzahlungen verbunden sind, oder eben eine Bildungsleistung widerspiegeln.

Der Zugang zu dem Tool ist in der letzten Woche allerdings von der Open AI-Webseite verschwunden, berichtet das US-Magazin Decrypt. Nach einer Stellungnahme dazu muss der interessierte Nutzer dann suchen - denn eine aktuelle Veröffentlichung hierzu gibt es nicht.


Fündig wird man allerdings in dem Blog-Beitrag, mit dem das Tool im Januar vorgestellt wurde. Diesen ergänzte das Unternehmen mit dem Hinweis, dass der AI Classifier aufgrund einer zu geringen Trefferquote zurückgezogen wurde. "Wir arbeiten daran, das Feedback zu berücksichtigen und erforschen derzeit effektivere Provenance-Techniken für Text und haben uns verpflichtet, Mechanismen zu entwickeln und einzusetzen, die es den Nutzern ermöglichen zu erkennen, ob Audio- oder visuelle Inhalte KI-generiert sind", hieß es hier.

Problem-Daten

Ein Kernproblem besteht darin, dass KI-Algorithmen letztlich nur aus komplexen statistischen Modellen bestehen, die mit einer möglichst großen Menge an Referenzdaten trainiert werden. Wenn nun aber ein Text den ursprünglichen Trainingsdaten zu sehr ähnelt oder gar selbst für diesen Zweck eingesetzt wurde, wird er schnell als KI-generiert eingestuft. Dies zeigte sich an dem Problem, dass unter anderem die US-Verfassung häufig als KI-generiert markiert wird.

Die Fehlerquoten bei der Erkennung durch das Open AI-Tool lagen teils im zweistelligen Prozentbereich - zumindest, wenn es sich um sehr kurze Passagen handelte. Aber auch längere Inhalte wurden immer noch relativ häufig falsch eingestuft.


Siehe auch: