Britische Regierung kritisiert Grok hart, xAI mit Alibi-Einschränkungen

Die Plattform X beschränkt den Zugriff auf ihre KI Grok nach einer Welle sexualisierter Deepfakes auf zahlende Abonnenten. Die britische Regierung warf dem Unternehmen zuvor vor, Missbrauch lediglich zu monetarisieren, statt ihn zu verhindern.

Bezahlschranke für KI-Funktionen

Die Social-Media-Plattform X hat den Zugriff auf die Bildbearbeitungsfunktionen ihrer KI Grok drastisch eingeschränkt. Als Reaktion auf eine Welle sexualisierter Deepfakes, bei denen Nutzer die Software verwendeten, um Frauen und sogar Minderjährige digital zu fast vollständig zu entkleiden, stehen diese Tools nun ausschließlich zahlenden Abonnenten zur Verfügung - allerdings schreibt The Verge, dass das nicht stimme, weil die Generierung nach wie vor mit kostenlosen Accounts möglich ist.

Wer versucht, Bilder zu generieren oder zu bearbeiten, erhält als Nichtzahler lediglich den Hinweis, ein Abonnement abzuschließen. Die britische Regierung reagierte prompt und verurteilte die Maßnahme scharf. Ein Sprecher des britischen Premierministers Keir Starmer bezeichnete den Schritt jedoch als völlig unzureichend und beleidigend für die Opfer, da er illegale Inhalte lediglich hinter eine Bezahlschranke verschiebe. Das Vorgehen mache die Erstellung von Missbrauchsmaterial faktisch zu einem Premium-Dienst, anstatt das zugrundeliegende Sicherheitsproblem zu lösen. Kritiker werfen dem Unternehmen vor, Profit über den Jugendschutz zu stellen.

Behörden prüfen Sanktionen

Die Kritik beschränkt sich nicht auf verbale Rügen aus der Downing Street. Die britische Aufsichtsbehörde Ofcom prüft derzeit intensiv, ob X gegen den Online Safety Act verstößt. Das Gesetz verpflichtet Plattformen dazu, proaktiv gegen illegale Inhalte vorzugehen und das Risiko für Nutzer zu minimieren. Sollte ein Verstoß festgestellt werden, drohen dem Unternehmen empfindliche Sanktionen bis hin zu theoretischen Zugangssperren oder Maßnahmen gegen Zahlungsdienstleister.

Auch die EU-Kommission zeigte sich von der Änderung unbeeindruckt und beobachtet die Situation im Rahmen des Digital Services Act (DSA). Die Verantwortlichen machten deutlich, dass das Bezahlmodell nichts an der grundlegenden Problematik ändere: Solche Bilder seien in Europa generell nicht erwünscht, unabhängig davon, ob der Ersteller dafür bezahlt habe oder nicht. Experten wie die Internet Watch Foundation hatten zuvor Material aufgedeckt, das Minderjährige im Alter zwischen 11 und 13 Jahren in sexualisierten Posen zeigte und die Schwelle zur Strafbarkeit überschritt.


Das Ausmaß der Problematik wird durch die aggressive Positionierung der KI verstärkt. Wie AP berichtet, sei die Zahl der öffentlich sichtbaren Deepfakes seit der Umstellung am Freitag zwar gesunken, die Funktion bleibe für Premium-Nutzer jedoch weiterhin aktiv.

Hintergründe zum KI-Modell

Technisch basiert die Bildgenerierung von Grok in der Regel auf dem Bildmodell Aurora. Im Gegensatz zu Konkurrenten wie OpenAI, die bei DALL-E 3 strikte Filter gegen die Erstellung von Bildern realer Personen oder urheberrechtlich geschützter Charaktere einsetzen, verfolgt xAI einen liberaleren Ansatz. Elon Musk positionierte seine KI-Projekte wiederholt als Gegenentwurf zum angeblichen "Woke Mind Virus" etablierter Tech-Giganten. Das Resultat sind oft weniger restriktive Leitplanken bei der Inhaltsgenerierung.

Das Problem verschärft sich dadurch, dass die generierten Bilder oft keine unsichtbaren Wasserzeichen enthalten, die eine eindeutige Identifizierung als KI-Material ermöglichen würden. Sicherheitsexperten warnen, dass die bloße Einschränkung auf zahlende Nutzer keine effektive Moderation ersetzt, da kriminelle Akteure oft bereit sind, geringe monatliche Gebühren für leistungsfähige, unzensierte Werkzeuge zu entrichten.

Was meint ihr zu diesem Vorgehen von X? Ist die Bezahlschranke ein wirksames Mittel gegen Missbrauch oder reiner Zynismus? Diskutiert gerne mit uns in den Kommentaren!


Siehe auch: