Werbung mit Kindesmissbrauch:
Meta nimmt das Problem nicht ernst

Meta hat auf Facebook und Instagram Hunderte Werbeanzeigen mit KI-generierten Darstellungen von sexuellem Kindesmissbrauch teilweise tagelang nicht entfernt. Das geht aus einer Untersuchung des Tech Transparency Project (TTP) hervor.

Apps aus China

Demnach konnten die Mitarbeiter der Organisation in diesem Jahr 332 entsprechende Anzeigen ausfindig machen, von denen die große Mehrheit für KI-Apps aus China warb. Besonders häufig ging es um sogenannte "Nudify"-Anwendungen, die sich dazu nutzen lassen, Fotos realer Menschen digital zu verändern und die dargestellten Personen virtuell zu entkleiden.

Besonders problematisch ist, dass für einige der manipulierten Bilder offenbar echte Kinder als Vorlage dienten. Das TTP konnte mehrere Fälle auf bereits im Internet veröffentlichte Fotos zurückführen. Darunter befand sich auch ein Pressefoto eines jungen Mitglieds einer europäischen Königsfamilie. In einem daraus erzeugten Video wurde das Kind in einer sexuellen Handlung dargestellt. Ein weiteres Opfer war ein 14-jähriges Mädchen, dessen Foto ursprünglich auf dem Instagram-Profil einer jungen Influencerin veröffentlicht worden war.


Die Untersuchung wirft Meta insbesondere Versagen bei der automatisierten Anzeigenkontrolle vor. Im August hatte das Unternehmen nach einer früheren Untersuchung erklärt, neue Systeme zur besseren Erkennung von Ausbeutung von Kindern eingeführt zu haben. Dennoch fanden die Forscher anschließend Hunderte weitere problematische Anzeigen.

Lange Bearbeitungszeit

Nach Angaben des TTP entfernte Meta zwar einen Teil der gemeldeten Anzeigen schnell, bei anderen dauerte es jedoch mehrere Tage oder sogar länger. In einem Fall stieg die Zahl der Aufrufe von vier auf 330, während die Anzeige noch online war. Zudem habe Meta bei nahezu identischen Anzeigen unterschiedliche Entscheidungen getroffen. Teilweise wurden Meldungen über mögliche sexuelle Ausbeutung Minderjähriger erst nach mindestens einer Woche geprüft oder überhaupt nicht bearbeitet.

Die Anzeigen erreichten laut TTP zusammen mehr als 29.000 Menschen in der EU und rund 6.800 in Großbritannien. Etwa 80 Prozent der Ausspielungen entfielen auf die USA. Mehrere chinesische Werbevermarkter sollen dabei identische problematische Anzeigen verbreitet haben.

Meta erklärte gegenüber Wired, man dulde weder Nudify-Apps noch sexuelle Ausbeutung von Kindern, unabhängig davon, ob die Inhalte real oder KI-generiert seien. Als Grund für das Übersehen einiger Anzeigen nannte das Unternehmen unter anderem kurze oder verschwommene Darstellungen Minderjähriger. Die Vorwürfe beschäftigen inzwischen auch US-Politiker und Behörden. Kritiker sehen zudem die Frage im Raum, ob Meta durch unzureichende Kontrollen finanziell von solchen Anzeigen profitiert.


Siehe auch: