Daten-Flutung: KI-Modelle verbreiten auch russische Desinformation

KI-Modelle sind in Sachen Meinungsbildung eher Problem als Lösung. Denn sie schöpfen aus einer ziemlich schmalen Quellenbasis und sind auch nicht dagegen abgesichert, das Desinformations-Netzwerke sie gezielt mit falschen Infos füttern.

Quellen-Nutzung nicht transparent

Das ist das Ergebnis einer Untersuchung, die unter dem Titel "Meinungsbildung im Wandel: wie KI-Modelle Nachrichtenquellen selektieren" vom Think Tank Agora Digitale Transformation veröffentlicht wurde. Laut dem Spiegel, dem das Paper exklusiv vorab vorliegt, würden KI-Systeme sich zu zentralen Gatekeepern bei der Vermittlung von Nachrichten entwickeln und damit weitreichende Effekte nach sich ziehen.

Immer seltener greifen Nutzer auf Suchmaschinen oder gar einzelne Webseiten zurück, um sich zu informieren. Stattdessen wird häufiger direkt das Eingabefeld eines Chatbots bemüht. Und das ist ein Problem, da hier schlicht nicht nachvollziehbar ist, nach welchen Kriterien das dahinterstehende KI-Modell Quellen auswählt und Informationen zusammenstellt.


So kritisieren die Autoren der Studie, dass kein Anbieter transparent macht, wie Quellen genutzt werden. In der Analyse zeigten zwischen den Modellen auch erhebliche Unterschiede. ChatGPT nutze beispielsweise überwiegend journalistische Quellen. Häufigster Informationslieferant war dabei die Springer-Publikation Welt.de, worin sich wohl die Kooperation zwischen dem Springer-Verlag und ChatGPT-Anbieter OpenAI widerspiegelt. Bei Claude und Gemini stammte hingegen nur die Hälfte der Informationen aus journalistischen Quellen, hier wurde häufiger auch auf staatliche oder zivilgesellschaftliche Angebote zurückgegriffen.

Pravda inside

Die Analyse zeigte aber auch ein weitergehendes Problem: Insbesondere Anthropics Claude zeigte sich anfällig für Inhalte aus Desinformations-Netzwerken. Solche werden von verschiedenen Kräften betrieben, um gezielt eigene Propaganda in die Datenbasis von KI-Chatbots einzuschleusen. Das Grundprinzip funktioniert dabei ähnlich wie die meist recht belanglosen Webseiten, mit denen die Szene der Suchmaschinen-Optimierer über viele Jahre hinweg Traffic anzog, um mit Werbung Geld zu verdienen.

Im Falle Claudes wurden hier beispielsweise Informationen aus dem russischen Pravda-Netzwerk gleichberechtigt mit seriösen journalistischen Angeboten vermischt. Nutzern werden hier also neben nachprüfbaren Fakten schnell auch mal Fake-Informationen aus der Propaganda-Maschine Moskaus untergejubelt.


Siehe auch: