ChatGPT-Macher OpenAI will verstärkt "KI-Halluzinationen" bekämpfen

KIs sind dank ChatGPT und Co. längst im Mainstream angekommen, viele Nutzer setzen auf Bots, die selbstständig Texte und Bilder generieren. Das funktioniert erstaunlich gut, aber nicht perfekt. Denn immer wieder "halluzinieren" KIs und OpenAI will das bekämpfen. Als Halluzination bezeichnet man im Bereich der KI-Forschung das Verhalten von Chatbots und künstlichen Intelligenzen, "zuversichtlich" Antworten zu geben, die jedoch durch Trainingsdaten nicht gerechtfertigt zu sein scheinen. Das liegt daran, dass die eingesetzten Daten entweder unzureichend, voreingenommen oder zu spezialisiert sind. Kurzum: Die KIs geben immer wieder Antworten, die richtig klingen, aber falsch sind.

Derartige KI-Halluzination will ChatGPT-Macher OpenAI nun intensiv bekämpfen und hat angekündigt, eine neue Methode zum Trainieren seiner Modelle umzusetzen, um genau dieses Problem anzusprechen. In einem Report schreiben OpenAI-Forscher (via CNBC): "Selbst modernste Modelle neigen dazu, Unwahrheiten zu produzieren - sie neigen dazu, in Momenten der Unsicherheit Fakten zu erfinden."

Mehrstufiges Denken

"Diese Halluzinationen sind besonders problematisch in Bereichen, die mehrstufiges Denken erfordern, da ein einziger logischer Fehler ausreicht, um eine viel größere Lösung zum Scheitern zu bringen", so die KI-Forscher weiter.

OpenAI möchte deshalb die einzelnen Schritte absichern, die KIs sollen sich dabei in gewisser Weise selbst für jede einzelne, korrekt beantwortete Aktion belohnen - und nicht bloß die korrekte finale Schlussfolgerung. Dieser Ansatz wird als "Prozessüberwachung" bezeichnet - im Gegensatz zur "Ergebnisüberwachung". Das ist ein im Wesentlichen menschlicher Ansatz, da hier eine "Gedankenkette" durchgeführt wird.

"Die Erkennung und Abschwächung von logischen Fehlern oder Halluzinationen eines Modells ist ein entscheidender Schritt auf dem Weg zum Aufbau einer abgestimmten AGI (Artificial General Intelligence)", sagte Karl Cobbe von OpenAI dazu. Er gibt zu, dass sein Unternehmen diesen Ansatz nicht erfunden hat, ihn aber vorantreiben will.


Siehe auch: