Grok: Kunden nutzen Musks KI vor allem für eine Sache - War ja klar

Die KI Grok von xAI erfreut sich vor allem aus einem Grund großer Beliebtheit. Über die Hälfte des Datenverkehrs besteht aus Anfragen und der Erzeugung nicht jugendfreier Inhalte. Es fließen enorme Summen an Geld.

Fokus auf nicht jugendfreie Inhalte

Elon Musk hatte xAIs KI Grok immer wieder damit beworben, dass das Modell weniger eingeschränkt wird als die Alternativen der Konkurrenz. Schon in der Vergangenheit sorgte das für handfeste Skandale, als Grok etwa den Holocaust relativierte oder auf Nachfrage sexualisierte Deepfakes von Frauen und sogar Minderjährigen generierte. Wie ein neuer Report jetzt offenlegt, macht die massenhafte Erstellung von pornografischen Inhalten über die Hälfte des gesamten Datenverkehrs von Grok aus.

Dazu werden sogar eigentlich für Programmieraufgaben gedachte Modelle zweckentfremdet, da die API-Nutzung günstiger ist als beim Standardmodell. Nutzer generieren damit riesige Mengen an Bildern, Videos oder verwenden die KI für "Rollenspiele für Erwachsene".


Wie aus dem Bericht von The Information hervorgeht, spülen die Erwachseneninhalte große Einnahmen in die Kassen von xAI. Für teure Premium-Grok-Imagine-Abonnements zahlen Kunden bis zu 300 Dollar (etwa 263 Euro) im Monat.

Interne Konflikte bei xAI

Die Ausrichtung auf freizügige Inhalte führt selbst intern zu Spannungen. Entwickler stehen vor der komplexen Aufgabe, einvernehmliche Rollenspiele für Erwachsene zuzulassen, während sie strafbares Material streng herausfiltern müssen. Laut internen Diskussionen gibt es für dieses Dilemma keine schnelle technische Lösung. Das Sprachmodell muss den schmalen Grat zwischen erlaubter Fiktion und verbotenen Inhalten erst mühsam durch menschliches Feedback erlernen.

Zudem zeigen sich einige Angestellte unzufrieden über die Zuweisung zu Projekten wie Ani, einem stark sexualisierten Anime-Avatar. Die Erstellung der eingangs erwähnten gefälschten Nacktbilder echter Personen führte bereits zu Untersuchungen durch Regierungen in der EU und Großbritannien. Konkurrenten wie Anthropic oder OpenAI verzichten daher in der Regel auf solche Funktionen. Sie verbieten sexuell explizite Inhalte in ihren Nutzungsbedingungen konsequent.

Keine Änderung in Sicht

Die offene Inhaltsrichtlinie sichert xAI eine enorme Nutzerbasis und hohe Einnahmen im Endkundengeschäft. Dass Personen durch Deepfakes dabei zu Schaden kommen und sogar klar illegale Inhalte erstellt werden können, nimmt das Unternehmen in Kauf. Ohne dass die Politik weitere Gesetze gegen eine entsprechende Verwendung erlässt, dürfte sich daran so schnell auch nichts ändern. Dafür verdient Musks Unternehmen mit Pornografie vermutlich zu viel Geld.

Nutzt ihr KI-Modelle eher beruflich oder zur Unterhaltung? Wie bewertet ihr den 'offenen Ansatz' von xAI im Vergleich zur Konkurrenz? Teilt eure Meinung in den Kommentaren!


Siehe auch: