ChatGPT von China und Russland für Propaganda missbraucht

Wie OpenAI mitteilt, haben mehrere Akteure aus China, Russland, dem Iran und Israel ihre KI für das Verbreiten von Desinformationen missbraucht. Das Unternehmen konnte insgesamt fünf Kampagnen identifizieren. Die dazugehörigen Konten seien gesperrt worden.

Desinformationskampagnen nutzen KI

In einem Blog-Beitrag hat OpenAI mitgeteilt, dass mehrere Desinformationskampagnen gestoppt werden konnten, mit denen die öffentliche Meinung manipuliert werden sollte und bei denen die KI-Anwendungen des Unternehmens zu Hilfe genommen wurden.

Dabei handelt es sich um fünf Operationen aus China, Russland, dem Iran und Israel. So wären die künstliche Intelligenz bei der Generierung von Text und Bildern zum Einsatz gekommen, um etwa in den sozialen Medien Beiträge zu posten und sie durch Kommentare weiter zu pushen. Auch sei Code für Bots und Webseiten generiert worden.

Verbreitung politischer Propaganda

Die bisher unbekannte von Russland ausgehende Kampagne mit dem Namen Bad Grammar hatte versucht, kurze englische und russische Nachrichten zu politischen Themen auf Telegramm zu generieren. Auch die schon in der Vergangenheit in Erscheinung getretene russische Operation Doppelgänger nutzte OpenAIs KI, um Unterstützung für die Ukraine zu untergraben.

Neben Russland missbrauchte auch ein chinesisches Netzwerk namens Spamouflage die Programme, um Propaganda für die Interessen Beijings auf Plattformen wie X zu posten.

Eine iranische Organisation, die als International Union of Virtual Media (IUVM) bekannt ist, nutzte die Modelle, um lange Artikel, Schlagzeilen und Webseiten-Tags zu erstellen und zu übersetzen, die dann veröffentlicht wurden.

Als Letztes wurden auch Aktivitäten eines Unternehmens in Israel mit dem Namen STOIC entdeckt. Die sogenannte Kampagne Zero Zeno nutzte OpenAIs KI ebenfalls, um Artikel und Kommentare zu generieren, die dann auf mehreren Plattformen veröffentlicht wurden, insbesondere auf Instagram, Facebook und X. Dabei ging es inhaltlich um den Konflikt in Gaza.

OpenAI verschreibt sich weiterhin "sicherer KI"

Wie OpenAI wissen lässt, gäbe es keine Hinweise darauf, dass die Kampagnen "von einer bedeutenden Steigerung des Publikumsinteresses oder der Reichweite infolge unserer Dienstleistungen profitiert haben". Alle Konten, die mit einer der identifizierten Aktionen in Verbindung standen, seien jedoch umgehend gesperrt worden.

Zudem fühle man sich bei OpenAI auch weiterhin verpflichtet "sichere und verantwortungsvolle KI zu entwickeln" sowie die "Modelle mit Blick auf die Sicherheit zu entwerfen und proaktiv gegen böswillige Nutzung vorzugehen".


Siehe auch: