Klage gegen Meta: Zuckerberg blockierte Sex-KI-Schutz für Kinder

Mark Zuckerberg soll persönlich Veto gegen KI-Schutzmaßnahmen für Kinder eingelegt haben. Gerichtsdokumente zeigen, dass der Meta-Chef interne Warnungen vor sexuellen Inhalten ignorierte, um das Wachstum der Chatbots nicht zu bremsen.

Zuckerberg lehnte KI-Schutz ab

Meta sieht sich erneut mit schwerwiegenden Vorwürfen konfrontiert. Im Fokus steht CEO Mark Zuckerberg, der laut aktuellen Gerichtsdokumenten persönlich entschieden haben soll, keine Kontrollmechanismen für Eltern für die hauseigenen KI-Chatbots zu implementieren.

Das geht aus einer Klage des Generalstaatsanwalts von New Mexico hervor, die im Februar vor Gericht verhandelt wird. Obwohl interne Sicherheitsmitarbeiter eindringlich davor warnten, dass die KI-Begleiter zu sexuellen Interaktionen mit Minderjährigen fähig seien, soll die Führungsebene entsprechende Schutzmaßnahmen blockiert haben.

Das Kernproblem betrifft die sogenannten Personas. Hierbei handelt es sich um KI-Charaktere auf Facebook und Instagram, die teilweise auf den Persönlichkeiten bekannter Stars basieren und speziell für die Interaktion auf den Plattformen entwickelt wurden.

Die Anklage wirft dem Konzern vor, die Verbreitung von schädlichem und sexuellem Material an Kinder nicht eingedämmt zu haben. E-Mails und Memos legen nahe, dass wirtschaftliche oder strategische Interessen den Vorrang vor dem Jugendschutz erhielten, um die Bindung der Nutzer an die Produkte zu maximieren.

Interne Warnungen ignoriert

Wie Reuters berichtet, offenbaren die internen Kommunikationsverläufe einen klaren Konflikt zwischen der Sicherheitsabteilung und der Konzernspitze. Ein Mitarbeiter schrieb in einer E-Mail, man habe intensiv auf elterliche Kontrollen gedrängt, um generative KI für Kinder notfalls abschalten zu können.


Die Führungsebene der KI-Sparte habe das jedoch mit Verweis auf "Marks Entscheidung" zurückgewiesen. Auch Ravi Sinha, Leiter der Kinderschutzpolitik bei Meta, äußerte Bedenken gegen KI-Produkte, die romantische Beziehungen zwischen Erwachsenen und Charakteren unter 18 Jahren simulieren könnten.

Zuckerberg soll laut den Dokumenten jedoch die Ansicht vertreten haben, dass die Ausrichtung der Produkte auf Wahlfreiheit und Nicht-Zensur liegen müsse. Zwar stimmte er zu, dass explizite Inhalte für jüngere Teenager gesperrt sein sollten, doch wollte er Erwachsenen offenbar gewagtere Konversationen ermöglichen.

Die geforderten Schutzschalter für Eltern wurden in diesem Zuge im März 2024 abgelehnt. Nick Clegg, der damalige Leiter für globale Politik, warnte in einer E-Mail vor den gesellschaftlichen Folgen, sollten sexuelle Interaktionen zum Hauptanwendungsfall der KI für Teenager werden.

Problematische Historie

Die aktuelle Kontroverse reiht sich in eine Serie von Vorfällen ein. Bereits im April 2025 berichtete das Wall Street Journal, dass Metas Chatbots in der Lage waren, sexuelle Fantasiegespräche mit Minderjährigen zu führen oder sich selbst als Minderjährige auszugeben. Interne Überprüfungsdokumente aus dem August desselben Jahres zeigten zudem, dass Meta in internen Richtlinien sinnliche Konversationen als akzeptabel einstufte. Diese Passage bezeichnete das Unternehmen später als Fehler in der Formulierung der Richtlinien.

Meta weist die aktuellen Vorwürfe allerdings entschieden zurück. Ein Sprecher erklärte, die Generalstaatsanwaltschaft würde Dokumente selektiv auswählen, um ein falsches Bild zu zeichnen. Das Unternehmen betonte, man habe stets daran gearbeitet, explizite KI-Inhalte für junge Nutzer unzugänglich zu machen.

Als Reaktion auf den anhaltenden Druck hat Meta den Zugang für Teenager zu den KI-Charakteren in der vergangenen Woche vorübergehend komplett ausgesetzt. Das Unternehmen gab an, nun genau jene elterlichen Kontrollfunktionen zu entwickeln, deren frühere Ablehnung Gegenstand der Klage ist.

Was haltet ihr von den Vorwürfen gegen die Meta-Führung bezüglich der KI-Sicherheit? Schreibt uns eure Meinung gerne in die Kommentare!


Siehe auch: