Rassistische KI-Videos überschwemmen derzeit soziale Medien

Rassistische KI-Videos, die mit Google Veo 3 erstellt wurden, verbreiten sich massenhaft auf TikTok und Instagram. Die Clips zeigen schwarze Menschen in entwürdigenden Darstellungen als Primaten und zeigen, wie gefährlich KI-Generierung sein kann.

Rassistische KI-Videos fluten soziale Medien

Mit dem KI-Videogenerator Veo 3 erstellte rassistische Inhalte erreichen auf TikTok und Instagram aktuell Millionen von Aufrufen. Das im Mai 2025 veröffentlichte neueste Videogenerierungsmodell von Google ermöglicht es Nutzern, mit einfachen Textanweisungen achtsekündige Videoclips zu erstellen. Was ursprünglich als kreatives Werkzeug gedacht war, wird nun zunehmend für die Verbreitung von Hass missbraucht.

Besonders schwarze Menschen werden in den KI-generierten Videos entwürdigend dargestellt. Die Clips zeigen sie als Primaten, oft mit Stereotypen wie Wassermelonen und Hühnchen versehen oder als Kriminelle abgebildet. Ein besonders verstörendes Beispiel ist "Bigfoot Baddie" - eine KI-generierte Figur mit Acrylnägeln und pinkfarbiger Perücke, die in stereotypisiertem afroamerikanischem Dialekt spricht. Solche Videos haben auf Instagram über eine Million Aufrufe erreicht.


Laut einer Untersuchung der Medienbeobachtungsorganisation Media Matters sind diese Inhalte Teil eines besorgniserregenden Trends (via Ars Technica). Die Organisation identifizierte zahlreiche Videos auf TikTok, die an der "Veo"-Kennzeichnung in der Ecke erkennbar sind und die achtsekündige Maximallänge von Googles Tool aufweisen.

Auf YouTube ansehen

Digitaler Hass

Die Inhalte beschränken sich nicht nur auf schwarzen Rassismus. Media Matters dokumentierte auch Videos, die antisemitische Stereotype perpetuieren, asiatische Menschen als schmutzig darstellen und Immigranten ins Visier nehmen. Besonders verstörend sind Clips, die historische Traumata nachstellen, etwa KKK-Angriffe auf Schwarze oder Konzentrationslager.

Veo 3 basiert auf einem Diffusionsmodell, das aus Milliarden von Bildern und Videos trainiert wurde. Die Technologie kann hochauflösende Videos in verschiedenen Stilen erstellen - von fotorealistisch bis hin zu animiert. Ursprünglich sollte das Tool Kreativen dabei helfen, schnell Prototypen für Werbespots oder Musikvideos zu erstellen.

Moderation stößt an Grenzen

Sowohl TikTok als auch Google haben Richtlinien, die solche Inhalte verbieten. TikTok erklärt in seinen Community-Richtlinien: "Wir erlauben keine Hassrede, hasserfülltes Verhalten oder die Förderung hasserfüllter Ideologien." Dennoch scheinen die Moderationssysteme mit der Flut an Uploads überfordert zu sein. Ein TikTok-Sprecher erklärte gegenüber Ars Technica, dass mehr als die Hälfte der in der Media Matters-Untersuchung genannten Konten bereits vor Veröffentlichung des Berichts gesperrt wurden.

Was haltet ihr von dieser Entwicklung? Sollten Unternehmen wie Google und TikTok strengere Maßnahmen ergreifen, um solche Inhalte zu verhindern? Teilt eure Gedanken zu diesem beunruhigenden Trend in den Kommentaren mit uns!


Siehe auch: