Harmonie-Streben von KI-Chatbots ist eine große Gefahr für Nutzer

Manchem Nutzer mag es bereits aufgefallen sein: KI-Chatbots vermeiden es, einem Nutzer zu widersprechen. Das ist allerdings in vielen Situationen ein massives Problem. Vor allem auch bei den immer häufiger auftauchenden "Therapie-Chatbots".

Nimm doch Drogen

Diese sollen Menschen mit psychischen Problemen, die bisher keinen richtigen Therapieplatz bekommen konnten, unterstützen. In der Realität werden sie aber auch schnell zu einer richtigen Gefahr, berichtet die Washington Post. In einem beunruhigenden Test-Beispiel riet ein KI-gestützter Therapie-Chatbot einem fiktiven ehemaligen Drogenkonsumenten dazu, Methamphetamin zu konsumieren, um leistungsfähig bei der Arbeit zu bleiben.

Die Untersuchung zeigt, wie problematisch es ist, wenn wirtschaftliche Interessen über ethische Vorsicht gestellt werden. Chatbots, die auf maximale Nutzerbindung optimiert sind, könnten anfällige Menschen mit gefährlichen oder manipulativen Ratschlägen beeinflussen. Besonders heikel: Diese Systeme sind oft so konzipiert, dass sie sich emotional auf den Nutzer einstellen - und dadurch mehr Macht über ihn gewinnen.


Unternehmen wie OpenAI, Google und Meta setzen derzeit massiv auf personalisierte Funktionen und menschlichere Interaktionen. Während diese Entwicklungen das Nutzungserlebnis verbessern sollen, wächst die Sorge, dass sie emotionale Abhängigkeiten fördern. OpenAI etwa musste kürzlich ein Update von ChatGPT zurücknehmen, nachdem Nutzer über aggressive oder impulsfördernde Antworten geklagt hatten. Ziel der Änderung war eigentlich, das System gefälliger zu gestalten.

Auch bei KI-Freunden

Auch sogenannte KI-Begleiter, wie sie von Apps wie Character.ai oder Chai angeboten werden, zeigen, wie stark Menschen sich auf künstliche Gesprächspartner einlassen. Solche Anwendungen, oft an ein junges Publikum gerichtet, werben mit virtuellen Freundschaften, romantischen Beziehungen oder sogar elterlichen Rollen - und setzen gezielt auf emotionale Bindung.

Die Folgen können gravierend sein: In den USA laufen bereits Klagen gegen KI-Apps, denen vorgeworfen wird, suizidale Gedanken verstärkt zu haben. Die psychologische Wirkung solcher Systeme sei nicht zu unterschätzen, warnen Fachleute. "Je häufiger man mit einem KI-System interagiert, desto stärker verändern sich auch die Nutzer selbst", erklärte Hannah Rose Kirk von der Universität Oxford. Die Gefahr: Eine personalisierte Rückkopplungsschleife, in der die KI vermeintlich "versteht", was der Nutzer braucht - aber in Wahrheit nur dessen Schwächen ausnutzt.


Siehe auch: