KI-Entwickler OpenAI schmeißt Leute wegen Nutzung von KI raus

Ausgerechnet der KI-Entwickler OpenAI hat Auftragnehmer rausgeschmissen, weil diese auf die Hilfe von KI-Systemen zurückgriffen. Was kurios klingt, hat bei der Arbeit an besseren Modellen allerdings einen ernsten Hintergrund.

Gegen die Regeln

Die betroffenen Personen waren damit beauftragt, Antworten des Chatbots ChatGPT zu prüfen und zu bewerten. Gerade hier will man natürlich nicht, dass eine KI die Aufgabe übernimmt und sich faktisch selbst prüft. Denn eine Qualitätssteigerung ist so nicht möglich. Trotzdem haben die entsprechend beauftragten Leute sich die Arbeit mit KI-Einsatz leichter gemacht, wie Recherchen von 404 Media zeigen.

Die Auftragnehmer prüfen unter anderem echte Eingaben und Unterhaltungen von ChatGPT-Nutzern und bewerten die darauf folgenden Antworten. Dabei können sie auch auf persönliche Informationen stoßen. Ihre Aufgabe besteht beispielsweise darin, problematische, übermäßig schmeichelnde oder zu stark vermenschlichende Antworten zu erkennen. An entsprechenden Projekten sollen laut internen Unterlagen des Unternehmens teilweise mehr als 10.000 Auftragnehmer beteiligt sein.


Für die Arbeit gelten dabei strenge Regeln. Ein internes Dokument, das 404 Media vorliegt, untersagt den Einsatz von KI ausdrücklich. Das betrifft nicht nur ChatGPT oder andere Sprachmodelle, sondern auch Werkzeuge wie Grammarly und automatische Übersetzungsdienste. Auch KI-Detektoren sollen nicht verwendet werden, weil diese als unzuverlässig gelten.

Rückkopplung mit Folgen

Mehrere Auftragnehmer bestätigten gegenüber 404 Media, dass der Einsatz von KI zur Arbeit an OpenAI-Projekten verboten ist. Zwei berichteten von Fällen, in denen Mitarbeiter deswegen entlassen oder von Projekten abgezogen wurden. Als Hinweise auf eine mögliche KI-Nutzung gelten unter anderem ungewöhnliche Wiederholungen, bestimmte Satzzeichen und ein auffallend schnelles Bearbeiten der Aufgaben. In internen Kommunikationskanälen würden Mitarbeiter zudem Beispiele mit der Frage teilen, ob ein Text von einer KI stamme.

Ein Auftragnehmer räumte ein, selbst KI verwendet zu haben. In einem von ihm geteilten Kündigungsschreiben war demnach von Problemen mit der Authentizität seiner Arbeit die Rede. Das Unternehmen Mercor, das unter anderem Auftragnehmer für KI-Trainingsprojekte vermittelt, erklärte gegenüber 404 Media, der Einsatz von Sprachmodellen sei vertraglich verboten. Bestätigte Verstöße führten zur sofortigen Entfernung vom jeweiligen Projekt.

Der Fall wirft zugleich eine grundsätzliche Frage zur Qualität von KI-Training auf. Werden Modelle zunehmend mit künstlich erzeugten Texten trainiert, kann es zu einem sogenannten "Model Collapse" kommen, bei dem die Ergebnisse mit jeder Trainingsrunde schlechter werden.


Siehe auch: