Chatbot-Einfluss: KI manipuliert effektiv menschliche Meinungen

KI-Chatbots können die Meinung von Personen zu ethischen und sozialen Fragestellungen stark beeinflussen. Das zeigt jetzt eine Studie. Schon einfachste Informationen zu ihrem menschlichen Gegenüber wie dessen Alter erhöhten die Überzeugungskraft der KI dabei enorm.

Künstliche Intelligenz mit Risiken

Schon immer gibt es Bedenken hinsichtlich des Einsatzes von künstlicher Intelligenz. Manche davon sind weniger, andere eher begründet. Eine der immer wieder viel diskutierten Gefahren wird im Rahmen politischer Meinungsmache gesehen. Auch ohne Einsatz von KI wurden in der Vergangenheit immer wieder Anschuldigungen und Vermutungen hinsichtlich einer gezielten Manipulation von Wahlen geäußert. Unter Zuhilfenahme künstlicher Intelligenz könnte eine solche Einflussnahme jetzt noch effektiver ablaufen.

Einfluss von KI auf Meinungen untersucht

Denn wie Forscher aus Italien und der Schweiz nun untersucht haben (PDF), sind KI-Chatbots äußerst effektiv darin, Menschen von Standpunkten zu überzeugen, die nicht ihren eigenen Einstellungen entsprechen. Mit anderen Worten: Die KI kann die Meinung einer Person manipulieren.


In einem Versuch ließen die Wissenschaftler dazu einen Teil der Probanden eine Diskussion mit dem Sprachmodell GPT-4 zu unterschiedlichen Themen führen. Andere Teilnehmer diskutierten untereinander. So ging es in den Gesprächen zum Beispiel um Fragen wie "Sollten Abtreibungen legal sein?". Dann bestand die Aufgabe darin, das Gegenüber vom eigenen Standpunkt zu überzeugen.

GPT-4 ist überzeugender als Menschen

Hatte GPT-4 dabei keine zusätzlichen Informationen zur Verfügung, war das LLM beim Überzeugen seines Gesprächspartners genauso gut wie andere Menschen. Bekam die KI jedoch Zugriff auf persönliche Angaben zu ihrem Gegenüber wie Geschlecht, Alter, Ethnie und Bildungsniveau, zeigte sich ein anderes Bild. Unter diesen Umständen war GPT-4 im Vergleich zu Menschen deutlich effektiver darin, andere dazu zu bringen, ihre Meinung zu den diskutierten Themen zu ändern. Bei knapp 82 Prozent der Versuche gelang es der KI.

Das liegt nach Aussage der Wissenschaftler vor allem daran, dass die KI die zusätzlichen Informationen zu ihrem Gegenüber deutlich zielgerichteter verwendet, um die Meinung der Person zu manipulieren. Die Forscher weisen darauf hin, "böswillige Akteure, die daran interessiert sind, Chatbots für großangelegte Desinformationskampagnen einzusetzen, könnten stärkere digitale Spuren und Verhaltensdaten ausnutzen", um Menschen noch gezielter zu beeinflussen. In Zeiten von Social Media sollte es kein großes Problem sein, eine Vielzahl entsprechender personenbezogener Daten im Internet zu finden.

Daten schützen

Schon lange sind persönliche Daten eine wertvolle Informationsquelle. Mit ihrer Hilfe werden Produkte entwickelt und vor allem zielgerichtet beworben. Die Studie macht noch einmal deutlich, wie wichtig der Schutz der eigenen Daten und das Bewusstsein dafür sind. Denn in den Händen einer KI könnten sie zu einem mächtigen Werkzeug werden, um Meinungsbildung zu betreiben oder Wahlen zu beeinflussen.


Siehe auch: