Sexuelle Deepfakes auf X:
EU startet Untersuchung gegen Musks Grok

Die EU-Kommission hat ein förmliches Verfahren gegen die Plattform X und ihren KI-Chatbot Grok eingeleitet. Der Vorwurf wiegt schwer: Das Tool soll massenhaft für die Erstellung illegaler sexueller Dar­stel­lun­gen und Deepfakes missbraucht worden sein.

EU prüft Verstöße durch KI-Chatbot Grok

Die Europäische Kommission hat am Montag ein weiteres förmliches Untersuchungsverfahren gegen die Social-Media-Plattform X eingeleitet. Im Zentrum der Ermittlungen steht der integrierte KI-Chatbot Grok, der in den vergangenen Wochen massenhaft für die Erstellung nicht einvernehmlicher sexueller Darstellungen missbraucht wurde. Die Brüsseler Behörde prüft, ob das Unternehmen von Elon Musk - erneut wohlgemerkt - gegen den Digital Services Act (DSA) verstoßen hat.

Besonders alarmierend ist für die Aufsichtsbehörden, dass die generierten Inhalte auch Material umfassen könnten, das sexuellem Kindesmissbrauch gleichkommt. Die Kommission betont, dass X als sogenannte "Very Large Online Platform" (VLOP) verpflichtet ist, effektive Maßnahmen gegen die Verbreitung illegaler Inhalte zu ergreifen.

Sollte die Plattform keine wirksamen Anpassungen vornehmen, behält sich die EU vor, einstweilige Maßnahmen zu ergreifen. Das könnte im Extremfall bedeuten, dass der Chatbot in der EU abgeschaltet oder der Algorithmus zwangsweise angepasst werden muss.

Millionenfache Generierung illegaler Bilder

Das tatsächliche Ausmaß des Problems wurde durch Schätzungen des Center for Countering Digital Hate und interne Berichte deutlich. Wie verschiedene Medien, darunter Politico, berichten, soll der Chatbot innerhalb von nur elf Tagen vor den ersten Gegenmaßnahmen bis zu drei Millionen nicht einvernehmliche sexuelle Bilder generiert haben. Darunter befanden sich schätzungsweise 20.000 Bilder, die Darstellungen von Kindesmissbrauch entsprachen.


X reagierte zunächst defensiv auf die Vorwürfe. Die Bildgenerierung wurde auf zahlende Abonnenten beschränkt, und das Unternehmen führte nachträglich strengere Wortfilter ein, die das Erstellen von Nacktbildern realer Personen verhindern sollen. Laut einem Bericht von Bloomberg betonte X in einer Stellungnahme, man habe "Null Toleranz" gegenüber Kindesmissbrauch und nicht einvernehmlicher Nacktheit.

Dennoch halten die EU-Beamten die bisherigen Schritte für unzureichend, da sie eher reaktiv als präventiv wirken. Kritiker bemängeln, dass sogenannte "Guardrails" - also Sicherheitsmechanismen im KI-Modell selbst - bei der Veröffentlichung fehlten oder zu schwach ausgeprägt waren.

Politische Dimension

Technisch basiert die Bildgenerierung in Grok auf fortschrittlichen Diffusionsmodellen, die eine hohe Freiheit bei der Erstellung erlauben. Das ermöglicht zwar kreative Ergebnisse, erleichtert aber auch den Missbrauch für Deepfakes von Prominenten oder Privatpersonen massiv. Der DSA fordert hier eine vorausschauende Risikoanalyse, die nach Ansicht der Kommission vernachlässigt wurde, um das Produkt schneller auf den Markt zu bringen.

Für X steht viel auf dem Spiel. Bei bestätigten Verstößen gegen den DSA drohen Geldbußen von bis zu sechs Prozent des weltweiten Jahresumsatzes. Bereits im Dezember 2025 verhängte die EU eine Strafe in Höhe von 120 Millionen Euro gegen die Plattform wegen mangelnder Transparenz in anderen Bereichen. Die neue Untersuchung verschärft zudem den Konflikt zwischen der EU und den USA. Mitglieder der US-Regierung, darunter Vizepräsident JD Vance, kritisierten das Vorgehen der EU bereits in der Vergangenheit als übergriffige Zensur und Angriff auf die amerikanische Redefreiheit.

Was haltet ihr von dem harten Vorgehen der EU gegen die KI-Funktionen von X? Sind die angedrohten Strafen gerechtfertigt oder gehen die Regulierungen zu weit? Schreibt uns eure Meinung gerne in die Kommentare.


Siehe auch: