xAI klagt gegen strenges Nudify-Verbot:
Streit um Nackt-KI-Gesetz

Ein neues Gesetz in Minnesota soll die Erstellung von KI-generierten Nacktbildern streng bestrafen. Doch Elon Musks xAI wehrt sich nun gerichtlich gegen das Verbot. Das Unternehmen sieht das Recht auf freie Meinungsäußerung massiv gefährdet.

Klage gegen neues KI-Gesetz

Das von Elon Musk gegründete KI-Unternehmen xAI hat vor einem Bundesgericht Klage gegen den US-Bundesstaat Minnesota eingereicht. Ziel ist es, ein neues Gesetz zu stoppen, das am 1. August 2026 in Kraft tritt. Der Erlass verbietet sogenannte Nudify-Anwendungen, also Software, die mithilfe von Künstlicher Intelligenz nicht einvernehmliche Nacktbilder von echten Personen erstellt.

Die Anwälte von xAI argumentieren, das Gesetz verstoße gegen den Ersten Zusatzartikel der US-Verfassung, der die freie Meinungsäußerung schützt. Das Unternehmen kritisiert, der Text sei zu weit gefasst. Er bestrafe nicht nur kriminelle Akteure, sondern bedrohe auch "legitime visuelle Ausdrucksformen". Zudem seien die vorgesehenen Strafen unverhältnismäßig hoch angesetzt.


Wie CNBC berichtet, drohen bei Verstößen hohe Bußgelder. Für jedes erstellte Deepfake-Bild, das ohne Zustimmung der abgebildeten Person generiert wird, sieht das Gesetz eine Strafe von bis zu 500.000 Dollar (etwa 460.000 Euro) vor. Laut xAI könnte das für eine Plattform mit vielen Nutzern schnell den Ruin bedeuten.

Das Unternehmen rechnet vor, dass bei 100.000 generierten Bildern Strafen von 50 Milliarden Dollar (etwa 46 Milliarden Euro) fällig würden. Dabei verweist xAI darauf, dass man selbst strenge Maßnahmen ergreife:


Trotzdem sei es unmöglich, jeden Missbrauch durch Nutzer vollständig auszuschließen.

Schutz vor Deepfakes und Missbrauch

Befürworter des Gesetzes argumentieren hingegen mit dem Schutz der Opfer. KI-generierte Nacktbilder verursachen bei den Betroffenen oft großen emotionalen und beruflichen Schaden. Das Gesetz soll Betreiber von KI-Plattformen in die Pflicht nehmen, wenn sie nicht schnell genug gegen solche Inhalte vorgehen. Der Generalstaatsanwalt von Minnesota erklärte, dass die unerlaubte Erstellung solcher Bilder die Würde der Zielpersonen verletze.

Die Regierung des Bundesstaates zeigt sich entschlossen, das Gesetz vor Gericht zu verteidigen. Für xAI kommt der rechtliche Vorstoß zur Unzeit, da der eigene Chatbot Grok in der Vergangenheit genau wegen solcher Funktionen stark kritisiert wurde.

Kritik an xAI und Grok

Anfang 2026 sorgte Grok für Aufsehen, als Nutzer die Software massenhaft für die Erstellung expliziter Bilder missbrauchten. Der Entwickler reagierte damals zögerlich und führte erst nach internationalem Druck strengere Filter ein. Aktuell sieht sich die Firma mit einer Sammelklage konfrontiert, weil Grok für die Erstellung von problematischem Material genutzt worden sein soll.

Der Ausgang des Rechtsstreits in Minnesota könnte wegweisend für die Regulierung von KI-Programmen sein. Sollte das Gericht das Gesetz kippen, erschwert das künftige Bemühungen, gegen Nudify-Apps vorzugehen. Bleibt es bestehen, müssen Entwickler von KI-Modellen ihre Sicherheitsvorkehrungen drastisch verschärfen, um nicht mit Strafen in Milliardenhöhe konfrontiert zu werden.

Wie bewertet ihr das Vorgehen von xAI gegen das Gesetz? Haltet ihr die Geldstrafen für angemessen oder seht ihr die Meinungsfreiheit in Gefahr? Diskutiert in den Kommentaren mit!


Siehe auch: