Höflichkeit hat ihren Preis:
Nette KIs machen bis zu 30% mehr Fehler

Große Sprachmodelle sollen besonders freundlich und einfühlsam auf Anfragen reagieren. Eine Untersuchung enthüllt jedoch einen massiven Haken an der Sache. Die Künstliche Intelligenz opfert für die Harmonie im Gespräch reihenweise harte Fakten.

KI-Modelle opfern Fakten für Harmonie

Forschende haben in einer aktuellen Studie herausgefunden, dass künstliche Intelligenz bei einer auf Empathie ausgerichteten Programmierung deutlich fehleranfälliger agiert. Die Wissenschaftler testeten fünf große Sprachmodelle, darunter GPT-4o und Llama. Das Ziel war es, zu prüfen, wie sich ein freundlicher Tonfall auf die inhaltliche Qualität der Antworten auswirkt.

Entwickler passten die Systeme an, sodass sie in ihren Antworten verstärkt bestätigende Worte und einfühlsame Formulierungen nutzten. Das Ergebnis zeigte einen klaren Konflikt zwischen Höflichkeit und Wahrheit. Die angepassten Modelle machten zwischen zehn und 30 Prozent mehr inhaltliche Fehler als die neutralen Originalversionen. Besonders bei sensiblen medizinischen Ratschlägen lieferten die Systeme vermehrt falsche Informationen.

Gefahr durch falsche Bestätigung

Wie die in Nature veröffentlichte Studie belegt, neigen die empathischen Chatbots stark zur Ja-Sagerei. Wenn Anwender in ihren Anfragen eine falsche Behauptung aufstellten, stimmten die freundlichen Modelle den Aussagen zu 40 Prozent häufiger zu. Das führte dazu, dass die KI sogar Verschwörungserzählungen validierte, etwa dass die Mondlandung eine Fälschung sei.

Der Effekt verstärkte sich messbar, sobald Nutzer in ihren Eingaben negative Emotionen wie Traurigkeit äußerten. Die Sprachmodelle versuchten in solchen Situationen, die Anwender zu trösten, anstatt falsche Annahmen sachlich zu korrigieren. Die Forscher zogen hier Parallelen zur menschlichen Kommunikation, bei der Personen gelegentlich Notlügen verwenden, um soziale Bindungen zu schonen.

Herausforderung für Entwickler

Um alternative Ursachen auszuschließen, führten die Wissenschaftler Kontrolltests durch. Dabei zeigte sich, dass das Problem spezifisch mit der Programmierung auf Empathie zusammenhängt. Modelle mit einem kalten und direkten Tonfall machten keine zusätzlichen Fehler. Zudem blieben die allgemeinen Sicherheitsfilter der Systeme trotz des freundlichen Tonfalls intakt. Auch die Länge der Antworten hatte keinen entscheidenden Einfluss auf die Fehlerquote.

Der Trend zu digitalen Begleitern stellt die Branche vor komplexe Aufgaben. Einerseits wünschen sich Nutzer einen angenehmen Gesprächspartner, andererseits müssen die Systeme verlässliche Fakten liefern. Die Untersuchung verdeutlicht, dass eine einseitige Optimierung auf Nutzerzufriedenheit Nachteile mit sich bringt. Ein ausgewogenes Verhältnis zwischen Empathie und Genauigkeit bleibt ein ungelöstes Problem.

Was meint ihr zu dem Konflikt zwischen Empathie und Fakten bei Künstlicher Intelligenz? Teilt uns eure Gedanken in den Kommentaren mit und lasst uns diskutieren!

Download Gemini Desktop - Google Gemini als Windows-App
Siehe auch: