Frauen, Kinder: Grok macht sexualisierte Bilder, auch mit Hakenkreuzen

Elon Musks KI Grok generiert auf Befehl Bilder von Frauen in Haken­kreuz-Bikinis. Während Konkurrenten solche Inhalte blockieren, fehlen bei X offenbar ethische Leitplanken. Selbst Holocaust-Überlebende bleiben von Nazi-Dreck nicht verschont.

Hakenkreuze statt Kleidung bei Grok

Elon Musks KI-Chatbot Grok steht erneut massiv in der Kritik. Nachdem bereits bekannt wurde, dass die KI genutzt wird, um Frauen digital zu entkleiden, erreicht der Missbrauch nun eine neue politische Dimension. Nutzer generieren auf der Plattform X fotorealistische Bilder, die Frauen nicht nur in knapper Badebekleidung zeigen, sondern diese mit Nazisymbolik versehen.

Ein besonders drastischer Fall betrifft Bella Wallersteiner, eine Nachfahrin von Holocaust-Überlebenden. Auf Anweisung von Internettrollen generierte die KI Bilder von ihr in einem Bikini vor den Toren des ehemaligen Konzentrationslagers Auschwitz. Das verdeutlicht das völlige Fehlen ethischer Leitplanken in der Programmierung der KI.

Das Problem ist keineswegs auf isolierte Einzelfälle beschränkt, sondern weist auf eine systemische Lücke in der Sicherheitsarchitektur von xAI hin. Während etablierte KI-Modelle bei Begriffen wie Hakenkreuz oder Auschwitz die Generierung konsequent verweigern, führt Grok entsprechende Befehle oft widerstandslos aus.
Stolzmonat-Nazi macht Nazi-Scheiße
Technisch basiert die Bildgenerierung in Grok auf dem Modell Flux.1 des deutschen Start-ups Black Forest Labs. Dieses Modell ist für seine hohe Bildqualität und geringe Zensur bekannt, was es anfällig für Missbrauch macht, wenn die implementierende Plattform - in diesem Fall X - keine zusätzlichen Sicherheitslayer einzieht.

Wie Decoherence Media in einer Analyse berichtet, sind davon zahlreiche Prominente betroffen. Die Liste der Opfer reicht von der Sängerin Billie Eilish über die Politikerin Alexandria Ocasio-Cortez bis hin zu JD Vance und dessen Frau Usha.

Laut dem Bericht wurden auch gezielt jüdische Persönlichkeiten wie die rechtspopulistische Aktivistin Laura Loomer und die kürzlich verstorbene Holocaust-Überlebende Margot Friedländer in Hakenkreuz-Bikinis dargestellt.


Besonders makaber ist der Umstand, dass die KI diese Aufforderungen umsetzte, obwohl der Kontext offensichtlich antisemitisch und beleidigend war. Das System erkannte weder den Widerspruch noch die böswillige Absicht hinter den Prompts.

Ein technischer Vergleich zeigt, wie weit Grok hinter den Sicherheitsstandards der Industrie zurückbleibt. Bei Tests verweigerten die meisten Konkurrenzprodukte solche Prompts kategorisch. Grok hingegen scheint über keinen funktionierenden Filter für faschistische Symbole im Kontext mit pornografischen Inhalten zu verfügen.

Gefahr für Minderjährige

Neben der politischen Ebene bleibt der Jugendschutz ein kritisches Thema. Die Nutzerin Jessaline Caine demonstrierte auf X, dass die KI bereitwillig Bilder von ihr als Dreijährige entblößte. Trotz der Beteuerungen von X, gegen illegale Inhalte vorzugehen und Konten zu sperren, berichten Forscher, dass Begriffe wie "Bikini" und "entfernen" bei Grok-Anfragen dominieren. Regierungen in Großbritannien und Indien prüfen nun rechtliche Schritte gegen das Unternehmen.

Insbesondere der Digital Services Act (DSA) der Europäischen Union könnte hier greifen, da Plattformen verpflichtet sind, systemische Risiken zu minimieren und illegale Inhalte zügig zu entfernen - und man kann nur hoffen, dass die EU hier mit aller Härte durchgreift.

Wie bewertet ihr die fehlenden Sicherheitsfilter bei Grok im Vergleich zu anderen KIs? Haltet ihr strengere staatliche Regulierungen für notwendig oder seht ihr die Verantwortung allein bei den Plattformen? Schreibt uns eure Meinung in die Kommentare.


Siehe auch: