OpenAI liefert die bisher klarste Analyse zu KI-Lügen - und kapituliert

Sie antworten schnell, oft klug - und manchmal völlig frei er­fun­den. Halluzinationen begleiten Künstliche Intelligenz seit ih­rem Aufstieg. OpenAI zeigt nun in einer der ausführlichsten Stu­dien zu dem Dilemma: Das Problem steckt tiefer im System, als viele dachten.

OpenAIs bittere Wahrheit: KI-Fehler sind unvermeidbar

Drei Daten, dreimal falsch: Gefragt nach dem Geburtstag eines Studienautors nannte ein führendes Sprachmodell gleich mehrere Varianten - und lag jedes Mal daneben. Solche "Halluzinationen" sind mehr als Kuriositäten. Laut einer neuen OpenAI-Analyse sind sie tief im Fundament moderner KI verankert - und womöglich gar nicht abstellbar.

Die Forscher gehen systematisch vor. Mit Methoden der Lern­theorie zeigen sie: Die Fehlerrate beim Generieren von Sätzen ist mindestens doppelt so hoch wie bei einfachen Ja/Nein-Fragen. Grund ist, dass Sprache Wort für Wort vorhergesagt wird - jeder kleine Fehler potenziert sich in längeren Antworten. Selbst wenn das Training frei von falschen Daten wäre, bliebe dieses Grundrisiko bestehen.


Ein zweiter Faktor ist die sogenannte Singleton-Rate. Inspiriert von Alan Turings "Missing-Mass"-Schätzungen berechneten die Autoren: Wenn 20 Prozent bestimmter Fakten im Training nur einmal vorkommen, muss das Modell bei mindestens 20 Prozent der Fragen dazu scheitern. Kurios: Häufig erwähnte Personen wie Einstein bleiben meist korrekt, aber Randfiguren rutschen leicht ins Fantasiearchiv der KI.


Auch die Architektur der Modelle spielt hinein. Ein Beispiel aus der Studie: Klassische Trigramm-Modelle mit nur drei Wörtern Kontext können mindestens 50 Prozent aller Antworten nicht korrekt bilden. Selbst moderne Systeme stolpern bei simplen Aufgaben wie Buchstabenzählen, weil sie Wörter als Tokens statt als Buchstaben repräsentieren.


Dazu kommt: Benchmarks, an denen Modelle trainiert und verglichen werden, bestrafen Unsicherheit fast immer. In neun von zehn untersuchten Tests gibt es null Punkte für "Ich weiß es nicht". Ein Modell, das ehrlich abbricht, steht also schlechter da als eines, das selbstbewusst Falsches behauptet. Die Forscher nennen das eine "Epidemie des Ratens". Infografik Generative KI: So teuer ist das Trainieren von KI-Modellen

Auswege sind teuer

Als Ausweg schlagen sie explizite Vertrauensgrenzen vor: KIs sollen nur dann antworten, wenn ihre Wahrscheinlichkeit für Richtigkeit über einem Schwellenwert liegt. Damit ließe sich die Zahl falscher Antworten deutlich senken. Doch die Nebenwirkungen wären massiv: Chatbots müssten in bis zu 30 Prozent der Fälle passen - für viele Nutzer kaum akzeptabel.

Hinzu kommt der Kostenfaktor. Berechnungen von Unsicherheit verlangen deutlich mehr Rechenleistung. Für kritische Anwendungen wie Medizin oder Finanzsysteme ist das denkbar, weil Fehler teuer wären. Im Alltag dagegen, wo Millionen Fragen pro Tag gestellt werden, wären solche Systeme schlicht zu teuer und zu langsam.

Damit bleibt ein Dilemma: Mathematik, Training und Bewertung erzeugen zusammen ein Klima, in dem Halluzinationen unvermeidlich sind. Wer schnelle, selbstbewusste Antworten will, bekommt auch mal Fantasie. Wer sichere, zurückhaltende Systeme fordert, muss längere Wartezeiten und höhere Kosten akzeptieren. Ausgerechnet OpenAI selbst liefert nun die ernüchternde Botschaft: Mit heutigen Sprachmodellen ist der Traum einer völlig halluzinationsfreien KI wohl unerreichbar.


Siehe auch: