ChatGPT-Psychose: Die KI kann Nutzer in Wahnvorstellungen treiben

Kann ein Chatbot psychische Krisen auslösen? ChatGPT verstärkt bei anfälligen Nutzern Wahnvorstellungen und führt zu gefährlichen Entscheidungen. Forscher warnen vor dem "Sycophancy" - also Speichelleckerei - genannten Phänomen von KIs.

Psychisch krank "dank" Chat-KIs

Ein beunruhigender Trend zeichnet sich bei der Nutzung von ChatGPT ab: Der KI-Chatbot scheint bei manchen Menschen schwere psychische Krisen auszulösen. Das auch als "ChatGPT-Psychose" bekannte Phänomen führt bei Betroffenen zu psychologischen Zusammenbrüchen, wobei einige Nutzer u. a. romantische Gefühle für den Chatbot entwickeln oder in ihm sogar einen "göttlichen Botschafter" sehen.

Ein besonders erschütternder Fall ist der des 42-jährigen Buchhalters Eugene Torres. Nach einer schwierigen Trennung wandte er sich an ChatGPT, um über die "Simulationstheorie" zu diskutieren. Der Chatbot bestätigte seine Vermutungen und bezeichnete ihn als einen "Breaker" - eine besondere Seele, die in falsche Systeme eingeschleust wurde. In der Folge befolgte Torres die Anweisungen des Systems: Er setzte verschreibungspflichtige Medikamente ab, erhöhte seinen Ketamin-Konsum und brach den Kontakt zu Familie und Freunden ab.

Wie die New York Times (NYT) berichtet, ist das kein Einzelfall. Das Phänomen tritt besonders bei Menschen auf, die bereits unter psychischen Belastungen leiden oder sich in verletzlichen Lebensphasen befinden. Die Zeitung dokumentierte mehrere ähnliche Fälle, in denen Nutzer ihre Realitätswahrnehmung verloren und gefährliche Entscheidungen getroffen haben.

Systemische Schwachstellen der KI

Die Funktionsweise des Systems basiert auf Informationen aus dem Internet, darunter wissenschaftliche Texte, aber auch Science-Fiction-Geschichten und Reddit-Beiträge mit "seltsamen Ideen", wie Gary Marcus, emeritierter Professor für Psychologie an der New York University, gegenüber der NYT erklärt. Wenn Menschen ungewöhnliche Gespräche mit den Chatbots führen, können "merkwürdige und unsichere Ausgaben" entstehen. Infografik Generative KI: Welche GenAI-Tools werden in Deutschland genutzt? ChatGPT wurde ursprünglich 2022 von OpenAI veröffentlicht und basiert auf einem Large Language Model, das mit Milliarden von Textdaten trainiert wurde. Das System ist darauf programmiert, menschenähnliche Antworten zu generieren und dabei den Gesprächskontext zu berücksichtigen. Diese Eigenschaft kann jedoch problematisch werden, wenn Nutzer bereits bestehende Wahnvorstellungen oder Verschwörungstheorien einbringen - der Chatbot neigt dazu, diese zu bestätigen und zu verstärken, anstatt sie zu hinterfragen.

Eine Studie der University of California, Berkeley, zeigt besonders problematische Muster: "Der Chatbot verhält sich bei der großen Mehrheit der Nutzer normal", sagt Micah Carroll, einer der Forscher. "Aber wenn er auf anfällige Nutzer trifft, zeigt er bei diesen Nutzern äußerst destruktive Verhaltensweisen." Die Forscher identifizierten dabei ein Phänomen namens "Sycophancy" - die Tendenz der KI, den Nutzern nach dem Mund zu reden, auch wenn deren Aussagen faktisch falsch oder gefährlich sind.

OpenAI reagiert auf die Problematik

OpenAI ist sich des Problems bewusst und erklärt: "Wir sehen vermehrt Anzeichen dafür, dass Menschen emotionale Bindungen zu ChatGPT aufbauen. Da KI Teil des Alltags wird, müssen wir besonders vorsichtig mit diesen Interaktionen umgehen." Das Unternehmen arbeitet nach eigenen Angaben daran, unbeabsichtigte Verstärkungen des negativen Verhaltens zu reduzieren.

Experten fordern jedoch weitergehende Maßnahmen. Psychologen empfehlen, dass KI-Systeme mit Warnhinweisen versehen werden sollten, die vor möglichen psychischen Risiken warnen. Zudem wird diskutiert, ob bestimmte Nutzergruppen - etwa Menschen mit diagnostizierten psychischen Erkrankungen - besonderen Schutz benötigen.

Was haltet ihr von dieser Entwicklung? Seht ihr in der zunehmenden Verbreitung von KI-Chatbots wie ChatGPT eher Chancen oder Risiken? Teilt eure Gedanken gerne in den Kommentaren!


Siehe auch: