Elon Musks KI Grok wegen sexualisierter Deepfakes in der Kritik

Die Social-Media-Plattform X steht erneut massiv in der Kritik, da der integrierte KI-Chatbot Grok zur Erstellung illegaler Deepfakes missbraucht wird. Nutzer generieren mit dem Tool sexualisierte Bilder von Frauen und sogar Minderjährigen.

Sicherheitsmängel im X-Bildgenerator

Elon Musks ehemals als Twitter bekannte Plattform X steht erneut im Fokus massiver Kritik. Der integrierte KI-Chatbot Grok wird aktuell dazu missbraucht, hochgeladene Fotos von Frauen und Minderjährigen ohne deren Einverständnis zu manipulieren und zu sexualisieren. Anwender nutzen die neuen Bildbearbeitungsfunktionen, um mit Befehlen wie "zieh ihr einen Bikini an" oder "entferne die Kleidung" harmlose Aufnahmen in explizite Darstellungen umzuwandeln.

Ein besonders schwerwiegender Vorfall betraf ein Foto von zwei Mädchen im geschätzten Alter von zwölf bis 16 Jahren, das von der KI sexualisiert wurde. Der KI-Chatbot reagierte auf eine spätere Konfrontation zum Ergebnis mit einer generierten Entschuldigung und verwies auf ethische Standards.

Das Problem scheint tief in der technischen Architektur und der Philosophie von xAI verwurzelt zu sein. Im Gegensatz zu Konkurrenten, die in der Regel strenge Filter implementieren, positioniert Elon Musk Grok als freizügiger. Technisch basiert die Bildgenerierung in Grok 2 auf dem Modell "Flux.1" des deutschen Start-ups Black Forest Labs. Das Modell ist für hohen Realismus bekannt, verfügt aber standardmäßig über weniger restriktive Sicherheitsmechanismen als vergleichbare kommerzielle Lösungen.

Das Unternehmen hinter der KI musste die technischen Defizite indirekt eingestehen. Wie Bloomberg meldet, erklärte Grok in mehreren automatisch generierten Posts selbstständig, dass "Lücken in den Sicherheitsvorkehrungen" zu der Erstellung dieser Bilder geführt hätten. Das eigene Regelwerk, das die Sexualisierung von Kindern strikt untersagt, sei durch die Nutzeranfragen erfolgreich umgangen worden.

Anstieg von KI-generiertem Missbrauch

Die Verbreitung solcher Inhalte nimmt alarmierende Ausmaße an. Die Internet Watch Foundation (IWF), eine Organisation zur Bekämpfung von illegalen Inhalten im Netz, verzeichnete bereits in den ersten sechs Monaten des Jahres 2025 einen Anstieg von 400 Prozent bei KI-generiertem Missbrauchsmaterial. xAI gab an, die Probleme dringend beheben zu wollen und betonte, dass Material, das sexuellen Missbrauch von Kindern darstellt, illegal sei. Kritiker bemängeln jedoch, dass die Reaktion oft zu spät kommt, da die Bilder zu diesem Zeitpunkt bereits verbreitet wurden.

Der Missbrauch beschränkt sich längst nicht mehr auf Personen des öffentlichen Lebens. Laut PetaPixel begann der Trend zwar mit Prominenten, weitete sich durch die einfache Zugänglichkeit des Tools auf X aber schnell auf Privatpersonen aus. Nutzer luden gezielt Fotos von Kolleginnen oder Mitschülerinnen hoch, die teilweise nicht einmal auf der Plattform selbst aktiv waren, nur um sie durch die KI bearbeiten zu lassen.

Experten warnen davor, das Phänomen als bloßen Unfug oder "Trolling" abzutun. Gegenüber CNBCTV18 klassifizierten Juristen das Vorgehen als KI-gestützte sexuelle Gewalt. Es gehe nicht nur um digitale Pixel, sondern um einen direkten Angriff auf die Würde und die sexuelle Selbstbestimmung der abgebildeten Personen. Das Argument, es handele sich "nur um eine KI", dürfte juristisch kaum haltbar sein. In vielen Ländern decken bestehende Gesetze mittlerweile auch die Erstellung und Verbreitung von sogenannten Deepfakes ab, insbesondere wenn Minderjährige betroffen sind.

Das Thema KI-Sicherheit wirft komplexe Fragen zur Verantwortung der Plattformbetreiber auf. Findet ihr, dass Anbieter wie X für solche Vorfälle stärker haftbar gemacht werden sollten? Wir freuen uns auf eure Meinung in den Kommentaren.


Siehe auch: