US-Behörden enttarnen neue KI-Bot-Kampagne aus Russland

US-Behörden haben eine aus Russland betriebene, KI-gesteuerte Desinformations-Kampagne enttarnt, in deren Rahmen zahlreiche Fake-Accounts Propaganda in sozialen Netzwerken verbreiteten. Die Bots gaben sich hier als menschliche Nutzer aus.

Unscheinbare Profile

Die Twitter/X-Profile, die zu der Kampagne gehörten, wirkten durchaus wie die echter Nutzer aus den USA, die seit gut einem Jahr auf der Plattform angemeldet sind und über einige, aber nicht zu viele Kontakte verfügen. Dies zeigt sich anhand von Screenshots, die Ermittler des US-Justizministeriums zusammen mit weiteren Unterlagen an ein Gericht übergaben.

Hinter den fraglichen Accounts steckten in Wahrheit aber keine Menschen, sondern KI-gesteuerte Bots, die aus Russland orchestriert wurden. Hinter der Kampagne soll dabei laut den Ermittlungen ein Redakteur des kremlnahen Senders RT stehen, berichtete die britische BBC. Beispiele für Fake-Accounts Das Justizministerium beschlagnahmte im Zuge dessen zwei Websites, die unter anderem als E-Mail-Hosts für die Social Media-Konten genutzt wurden. Weiterhin wurde an Twitter/X eine Verfügung übersandt, nach der die Plattform Informationen zu den 968 Konten herausgeben soll, die mit der Kampagne in Verbindung gebracht werden.

Accounts sind dicht

Einen Zugang zu den Accounts gibt es bereits nicht mehr. Wahrscheinlich haben die Betreiber der Plattform bereits auf die Verfügung reagiert und die Konten stillgelegt, damit sie nicht weiter ihrer Aufgabe nachkommen können. Inwieweit die Übergabe der Ermittlungsakten an ein Gericht letztlich auch zu einem Verfahren führen werden, bleibt abzuwarten.

Die heutigen Maßnahmen stellen einen ersten Versuch dar, eine von Russland finanzierte, generative, KI-gestützte Social-Media-Bot-Farm zu stören. Russland wollte diese Bot-Farm nutzen, um mithilfe von KI generierte Desinformationen zu verbreiten, um die Glaubwürdigkeit unserer Partner in der Ukraine zu untergraben und geopolitische Narrative zu beeinflussen, die der russischen Regierung zugutekommen.

Siehe auch: