Nach Grok-Skandal: EU verschärft Gesetze gegen KI-Nacktbilder

Das EU-Parlament plant ein striktes Verbot für sogenannte Nudify-KIs. Ein neuer Gesetzentwurf nimmt Entwickler in die Pflicht, die Erstellung von realistischen Deepfake-Nacktbildern ohne Zustimmung technisch zu blockieren.

EU-Parlament plant Verbot von Nudify-KI

Das Europäische Parlament reagiert auf die Verbreitung generierter Nacktbilder und geht gegen sogenannte Nudify-Anwendungen vor. Der Justiz- und Verbraucherschutzausschuss stimmte am Mittwoch einem Entwurf für eine Erweiterung bestehender KI-Gesetze zu. Das Regelwerk beinhaltet einen Änderungsantrag, der KI-Systeme verbietet, die ohne Zustimmung realistische sexuelle Darstellungen oder intime Körperteile identifizierbarer Personen erzeugen.

Auslöser sind Beschwerden über den Chatbot Grok des Unternehmens xAI von Elon Musk. Nutzer hatten den Dienst Anfang des Jahres verwendet, um Tausende sexualisierte Bilder von an sich bekleideten Frauen und sogar Kindern zu erstellen.

Während xAI die Funktion nach Kritik einschränkte, wollen die Gesetzgeber solche Vorfälle nun proaktiv unterbinden. Bisherige Regelungen konzentrierten sich oft auf die Bestrafung der Nutzer, die solche Inhalte teilen. Der neue Entwurf nimmt nun die Technologieanbieter selbst ins Visier.

Plattformen in der Verantwortung

Das geplante Verbot greift, wenn ein Unternehmen keine ausreichenden Sicherheitsmaßnahmen implementiert hat, um die Erstellung der Deepfakes technisch zu verhindern. Entwickler von KI-Modellen müssen künftig nachweisen, dass ihre Systeme entsprechende Restriktionen besitzen. Es bleibt jedoch eine technische Herausforderung für die Entwickler, wie KI-Systeme verifizieren sollen, ob eine abgebildete Person ihre Einwilligung zur Darstellung gegeben hat.

Wie Bloomberg berichtet, bringt das Vorgehen das Parlament auf eine Linie mit den europäischen Regierungen. Diese haben einem ähnlichen Verbot bereits zugestimmt. Es gilt als sehr wahrscheinlich, dass die Regelung noch in diesem Jahr verabschiedet wird. Das Verbot ergänzt bestehende EU-Gesetze wie eine Richtlinie von 2024 gegen Gewalt an Frauen und den Digital Services Act, die das Teilen solcher Inhalte sanktionieren.

Das geplante KI-Omnibus-Gesetz dient primär der Anpassung des Artificial Intelligence Act. Neben dem Verbot von Nacktbild-Generatoren bringt das Paket zeitliche Änderungen für die Industrie mit sich:

Ermittlungen gegen Plattformen

Parallel zu den gesetzlichen Maßnahmen laufen Untersuchungen gegen X und xAI. Regulierungsbehörden in der EU und Großbritannien prüfen derzeit, ob der Grok-Vorfall gegen Gesetze zur Moderation von Inhalten und zur Online-Sicherheit verstoßen hat. Der Dienst X, ehemals Twitter, stand in der Vergangenheit bereits mehrfach wegen mangelnder Inhaltskontrolle im Fokus der europäischen Behörden.

Haltet ihr das technische Verbot für effektiv umsetzbar oder werden Entwickler Wege finden, die Sperren zu umgehen? Schreibt uns eure Meinung dazu gerne in die Kommentare.


Siehe auch: