Nach Deepfake-Skandal: Erste Länder blockieren Elon Musks Grok-KI

Nach einer Flut von sexualisierten Deepfakes durch die KI Grok greifen erste Regierungen durch. Indonesien und Malaysia blockieren den Zugang zu Elon Musks Chatbot temporär. Musk und xAI sprechen von Zensur und Lügen der Medien.

Erste Länder sperren Musks KI-Bot

Die Behörden in Indonesien und Malaysia haben den Zugang zu Grok vorübergehend blockiert nachdem der Chatbot gerade einmal mehr massiv in der Kritik steht. Auslöser für diese drastische Maßnahme sind durch künstliche Intelligenz generierte, sexualisierte Bilder. Diese sogenannten Deepfakes zeigten reale Personen und in erheblichem Umfang auch Minderjährige. Meutya Hafid, die indonesische Ministerin für Kommunikation und Digitales, bezeichnete diese Praxis in einer offiziellen Stellungnahme als schwerwiegende Verletzung der Menschenrechte sowie der Würde und Sicherheit der Bürger im digitalen Raum.

Das Ministerium in Jakarta hat zudem Vertreter der Plattform X einbestellt, um die Situation zu erörtern. Hintergrund ist die enge Verzahnung des Chatbots von xAI mit dem sozialen Netzwerk. Beide Unternehmen stehen unter der Leitung von Elon Musk. Grok ist zudem direkt in die Kurznachrichtenplattform eingebunden.


Während Indonesien den Schritt am Samstag ankündigte, folgte Malaysia am Sonntag mit einer ähnlichen Anordnung. Wie unter anderem die New York Times berichtet, sind dies die weltweit ersten formellen staatlichen Blockierungen von Grok, obwohl auch Regierungen in Europa und Indien bereits Untersuchungen eingeleitet und die KI kritisiert hatten.

Reaktion von Musk und xAI

xAI reagierte auf die internationale Kritik und den Druck der Regulierer mit einer Einschränkung der bildgenerierenden Funktionen auf X. Die Möglichkeit, Bilder zu erstellen, wurde weitgehend auf zahlende Abonnenten beschränkt. Kritiker bezeichneten diesen Schritt jedoch als unzureichend und beleidigend für die Opfer. Denn xAI unterbindet die Erstellung missbräuchlicher Inhalte damit nicht technisch, sondern wandelt sie lediglich in einen kostenpflichtigen Premium-Dienst um. Zudem wirkt die Einschränkung inkonsistent, da Berichten zufolge die eigenständige Grok-App wohl weiterhin Bildgenerierung ohne die entsprechenden Hürden zulässt.

Elon Musk selbst tat die staatlichen Eingriffe ab und warf den Regierungen vor, lediglich nach Ausreden für Zensur zu suchen. Presseanfragen zu dem Thema beantwortet die offizielle E-Mail-Adresse von xAI derzeit standardmäßig mit der automatisierten Phrase "Legacy Media Lies" ("Lügen der traditionellen Medien"). Parallel dazu wächst jedoch auch in den USA der Druck. So haben demokratische Senatoren Apple und Google aufgefordert, die App aus ihren Stores zu entfernen, sollten die Richtlinien gegen illegale Inhalte nicht eingehalten werden.


Siehe auch: