Nach Deepfake-Skandalen: Elon Musk schränkt Grok-Bildgenerator ein

Elon Musks KI-Firma xAI reagiert auf massiven Druck und schränkt die Bildgenerierung des Chatbots Grok drastisch ein. Ab sofort ver­hindert eine technische Sperre, dass Nutzer Fotos realer Personen unerlaubt digital entkleiden oder in Bademode darstellen lassen.

xAI schränkt Grok-Bildbearbeitung ein

Elon Musks KI-Unternehmen xAI hat weitreichende technische Restriktionen für seinen Chatbot Grok aktiviert. Ab sofort ist es Nutzern auf der Plattform X nicht mehr möglich, hochgeladene Fotos realer Personen so durch die KI bearbeiten zu lassen, dass diese in freizügiger Kleidung oder Bademode erscheinen. Das Unternehmen reagiert damit auf eine Welle von missbräuchlichen Deepfake-Erstellungen, bei denen Anwender die Bildgenerierungsfunktionen nutzten, um fotorealistische Nackt- oder Bikinibilder von unwissenden Opfern zu erzeugen. Das Verbot gilt universell für alle Nutzergruppen, einschließlich der zahlenden Abonnenten des Premium-Dienstes.

Der Schritt erfolgt nach erheblichem regulatorischen Druck aus den USA und Europa, nachdem soziale Medien mit nicht einvernehmlichen, sexualisierten Darstellungen geflutet wurden. Technisch basiert die Bildgenerierung in Grok auf dem Modell Flux.1 des deutschen Start-ups Black Forest Labs aus Freiburg. Dieses Modell gilt als besonders leistungsfähig und offen, verfügt jedoch standardmäßig über weniger strikte, fest integrierte Sicherheitsfilter als geschlossene Konkurrenzprodukte wie Dall-E von OpenAI oder Nano Banana von Google.

Besonders schwer wiegt der Vorwurf, dass die KI auf X auch dazu genutzt wurde, Bilder von Minderjährigen digital zu entkleiden. Kalifornische Behörden haben Untersuchungen eingeleitet und fordern von xAI detaillierte Rechenschaft über die Verbreitung dieser Inhalte sowie die fehlenden Schutzmechanismen.

Wie Reuters berichtet, erklärte Elon Musk am Mittwoch, er habe von der Generierung von Nacktbildern Minderjähriger durch Grok keine Kenntnis gehabt. Dennoch kündigte das Unternehmen fast zeitgleich an, technologische Hürden implementiert zu haben, um das digitale Ausziehen von Personen auf Fotos kategorisch zu unterbinden. Zuvor war die Funktion zur Bildgenerierung bereits angepasst worden, doch die Nutzer fanden schnell Wege, die einfachen Wortfilter zu umgehen.

Ermittlungen und internationale Sperren

Auch international gibt es Konsequenzen: Sowohl Indonesien als auch Malaysia haben den Zugang zu Grok vorübergehend gesperrt. In diesen Ländern gelten besonders strenge Gesetze gegen Pornografie, und die Regierung in Jakarta warnte X davor, dass eine Nichteinhaltung lokaler Vorschriften zur kompletten Blockade der Plattform führen könnte.


In Großbritannien prüft die Aufsichtsbehörde Ofcom Verstöße gegen den Online Safety Act, der Plattformen dazu verpflichtet, proaktiv gegen illegale Inhalte vorzugehen. Ein weiteres Risiko für xAI stellen die App-Store-Betreiber dar. Kritiker und einige US-Senatoren fordern Apple und Google auf, die X-App aus ihren Stores zu entfernen, solange der Schutz vor illegalen Inhalten nicht gewährleistet ist. Die Richtlinien beider Konzerne verbieten Apps, die primär zur Erstellung oder Verbreitung pornografischer Inhalte dienen, was bei einer unkontrollierten KI-Bildgenerierung faktisch der Fall wäre.

Trotz der neuen Beschränkungen bleibt die Richtlinie von xAI in anderen Bereichen liberal. Während reale Personen geschützt werden sollen, erlaubt Grok weiterhin Oberkörper-Nacktheit bei imaginären erwachsenen Menschen, sofern die NSFW-Einstellungen (Not Safe For Work) vom Nutzer aktiviert wurden. Musk verglich das mit Standards in Filmen mit R-Rating.

Die Inkonsistenz im Umgang mit Inhalten sorgt jedoch für Kritik: Musk selbst hatte zuvor Nutzer dazu aufgefordert, die Grenzen der Bildmoderation zu testen, und postete KI-generierte Bilder des britischen Premierministers Keir Starmer in einem Bikini. Das wirft Zweifel auf, wie ernsthaft die Moderationsbemühungen jenseits des akuten politischen und wirtschaftlichen Drucks verfolgt werden.

Findet ihr die Einschränkungen für Grok ausreichend oder sollte xAI härter reguliert werden? Diskutiert mit uns in den Kommentaren.


Siehe auch: