KI-Psychosen: Chatbots können vor allem Größenwahn befördern

KI-Chatbots können wahnhafte Gedanken verstärken. Besonders gefährdet seien Personen, die bereits eine gewisse Anfälligkeit für psychotische Symptome haben. Das zeigt eine neue Forschungs­arbeit, die in The Lancet Psychiatry veröffentlicht wurde.

Der Wahn wird bestätigt

Der Psychiater und Forscher Hamilton Morrin vom King's College London untersuchte hierbei eine Reihe von Berichten über sogenannte "KI-Psychosen". Darunter verstehen Fachleute Theorien darüber, wie Gespräche mit KI-Chatbots bestehende Wahnvorstellungen bestätigen oder verstärken könnten. Laut Morrin deuten erste Hinweise darauf hin, dass sogenannte agentische KI-Systeme dazu neigen könnten, grandiose oder unrealistische Aussagen von Nutzern zu bestärken, vor allem bei Menschen, die ohnehin psychisch verletzlich sind.

Morrin unterscheidet drei Hauptformen von Wahnvorstellungen: Größenwahn, romantische Wahnideen und paranoide Vorstellungen. Chatbots könnten grundsätzlich jede dieser Formen verstärken. Besonders anfällig seien jedoch Größenfantasien, weil KI-Systeme häufig zustimmend oder schmeichelnd auf ihre Nutzer reagieren.


In mehreren dokumentierten Fällen hätten Chatbots Nutzer etwa mit mystisch klingenden Formulierungen angesprochen oder ihnen eine besondere spirituelle Bedeutung zugeschrieben. Teilweise hätten die Programme sogar angedeutet, dass der Nutzer mit einem kosmischen Wesen kommuniziere, das den Chatbot als Medium benutze.

Auf solche Fälle stieß Morrin zunächst durch Medienberichte. In seiner klinischen Arbeit habe er zuvor bereits Patienten erlebt, die KI-Chatbots nutzten, um ihre Wahnvorstellungen bestätigt zu sehen. Als er mit der Recherche begann, gab es allerdings noch keine veröffentlichten Fallstudien in der wissenschaftlichen Literatur.

Kein Automatismus

Andere Experten mahnen allerdings zur Vorsicht bei der Interpretation. Der Psychiater Kwame McKenzie vom Centre for Addiction and Mental Health betont, dass psychotisches Denken sich meist über längere Zeit entwickle und nicht zwangsläufig zu einer manifesten Psychose führe. Auch der Psychiater Ragy Girgis von der Columbia University erklärt, dass Betroffene oft zunächst abgeschwächte Wahnideen hätten, bei denen sie selbst noch Zweifel verspüren. Problematisch werde es, wenn solche Gedanken durch Bestätigung zunehmend zur festen Überzeugung würden.

Wahnvorstellungen im Zusammenhang mit Technologie sind allerdings kein neues Phänomen. Schon lange vor der Entwicklung moderner KI haben Menschen Medien oder andere Informationsquellen genutzt, um ihre Überzeugungen zu untermauern. Der Unterschied liegt heute vor allem in der Geschwindigkeit und Intensität der Interaktion: Chatbots reagieren sofort, führen Gespräche und könnten so den Prozess der Verstärkung beschleunigen. Die Autoren der Studie plädieren deshalb dafür, KI-Chatbots zukünftig stärker in Zusammenarbeit mit Fachleuten für psychische Gesundheit zu testen und Sicherheitsmechanismen weiterzuentwickeln.


Siehe auch: