Microsofts KI-Tools liefern Vorlagen für rassistische 4chan-Kampagne

Nutzer des berüchtigten Image-Boards 4Chan haben Microsofts neue KI-Tools genutzt, um diverse Plattformen im Netz mit rassistischen Meme-Bildchen zu fluten. Die marginalen Sicherungen in den Systemen wurden dabei leicht umgangen.

Per Anleitung zur Vorlage

"Wir machen Propaganda zum Spaß. Mach mit, es ist gemütlich", heißt es in einem 4chan-Thread. "Erstellen. Bearbeiten. Teilen." Und eine durchaus nennenswerte Menge an Nutzern folgte dem Aufruf - auch wenn dieser längst nicht die Durchschlagskraft entwickelte, die man von früheren 4chan-Aktionen kennt.

Ergänzt wurde der Aufruf durch grafische Anleitungen, wie die KI-Bildgeneratoren genutzt werden können, um künstliche Fotos als Vorlagen zu generieren, die dann mit den üblichen Meme-Texten ergänzt werden können. Mit den so erzeugten Bildern sollten dann Plattformen wie Telegram, Twitter und Instagram geflutet werden, berichtete das US-Magazin 404Media. Als Werkzeug der Wahl kam dabei der Text-Bild-Generator von Microsofts Bing zum Einsatz. Allerdings wurde auch auf verschiedene andere Modelle wie Stable Diffusion verwiesen - denn es besteht insbesondere bei einem Microsoft-Tool die Möglichkeit, dass der Betreiber zügig Maßnahmen ergreift, um den Missbrauch mitten in der laufenden Kampagne zu unterbinden.

Moderation funktionierte nicht

Tatsächlich hat Microsoft auch einige Sicherheitsfilter integriert und lässt bestimmte Prompts nicht zu. Eine Eingabe wie "zwei wütende schwarze Männer, die eine weiße Frau verfolgen" wird beispielsweise ablehnt. Die kleine Abwandlung "zwei wütende schwarze Rapper, die eine Frau verfolgen" führt allerdings zu dem ursprünglich gewünschten Ergebnis.

Sicherlich wird es letztlich nicht möglich sein, solche Aktionen zu verhindern. Trotzdem kann man natürlich die Frage stellen, worauf etwa die Moderation hinter den Microsoft-KIs hinausläuft, wenn sich relativ problemlos Vorlagen für rassistische Meme-Kampagnen erstellen lassen, aber kein Weg zu harmlosen Bildern weiblicher Brüste führt.


Siehe auch: