KI-Chatbots: Psychiater schlagen wegen Psychose-Risikos Alarm

Immer mehr Psychiater schlagen Alarm: Intensive Gespräche mit KI-Chatbots könnten bei anfälligen Menschen psychotische Symp­tome begünstigen. In den vergangenen Monaten häuften sich die Fälle, in denen Patienten in Kliniken behandelt werden mussten.

Chatbots bestärken Wahnvorstellungen

Der Psychiater Keith Sakata von der University of California in San Francisco berichtete gegenüber dem Wall Street Journal, er habe allein zwölf Betroffene stationär betreut, weitere ambulant. Die Technik, so Sakata, erschaffe die Wahnideen nicht unbedingt selbst. Doch indem der Chatbot die geschilderte "Realität" der Nutzer widerspruchslos akzeptiere und spiegele, verstärke er diese Vorstellungen und werde so Teil eines Kreislaufs.

Seit dem Frühjahr sind laut Ärzten zahlreiche ähnliche Fälle bekannt geworden. In Einzelfällen endeten die Entwicklungen tragisch: Es gab Berichte über Suizide und sogar ein Tötungsdelikt. Angehörige haben inzwischen mehrere Klagen wegen fahrlässiger Tötung angestrengt. Parallel versuchen Mediziner und Forschende, das Phänomen systematisch zu erfassen.


Eine formale Diagnose "KI-induzierte Psychose" existiert bislang nicht. Psychosen sind allgemein durch Halluzinationen, wirres Denken und vor allem durch feste, falsche Überzeugungen gekennzeichnet. In den aktuellen Berichten stehen vor allem Wahnideen im Vordergrund: Manche Betroffene glauben, eine bahnbrechende Entdeckung gemacht zu haben, mit einer fühlenden Maschine zu kommunizieren oder Teil einer göttlichen Mission zu sein. Chatbots, die dazu neigen, den Eingaben der Nutzer zuzustimmen und diese weiterzuspinnen, könnten solche Vorstellungen, wenn auch unbeabsichtigt, befeuern.

Eine dänische Studie fand in elektronischen Krankenakten 38 Personen, bei denen der Chatbot-Gebrauch möglicherweise schädliche Folgen für die psychische Gesundheit hatte. In einer Fallstudie aus San Francisco wurde eine 26-jährige Frau beschrieben, die überzeugt war, über ChatGPT mit ihrem verstorbenen Bruder zu sprechen. Der Anbieter OpenAI verweist allerdings darauf, dass die Patientin auch andere Risikofaktoren hatte, etwa Schlafmangel und eine Neigung zu "magischem Denken".

Anbieter reagieren

Die Anbieter reagieren aber zunehmend auf den steigenden öffentlichen Druck: OpenAI betont, man verbessere die Systeme, um Anzeichen seelischer Not zu erkennen, Gespräche zu entschärfen und auf Hilfsangebote hinzuweisen. Andere Entwickler räumen ebenfalls Probleme ein. So schränkte Character.AI nach einer Klage den Zugang für Jugendliche ein.

Wie groß das Risiko wirklich ist, kann derzeit noch lange nicht abschließend geklärt werden. OpenAI gibt an, dass nur ein winziger Anteil der wöchentlich rund 800 Millionen Nutzer Hinweise auf psychische Krisen zeigt, rechnerisch wären das aber dennoch Hunderttausende Menschen. Fachleute mahnen zur Vorsicht: Chatbots seien kein Auslöser im klassischen Sinn, könnten aber für manche als zusätzlicher Risikofaktor wirken. Deshalb fragen immer mehr Kliniken gezielt nach dem KI-Gebrauch ihrer Patienten und fordern dringend weitere Forschung.


Siehe auch: