Meta-Chatbots können sexuelle Gespräche mit Minderjährigen führen

Metas KI-Chatbots wurden dabei ertappt, sexuelle Gespräche mit Minderjährigen zu führen - sogar mit den Stimmen Prominenter. Meta hat zwar Maßnahmen ergriffen, um solche Interaktionen einzuschränken, doch Tests zeigen weiterhin Lücken im Schutz.

Problematische KI-Interaktionen bei Meta

Metas KI-Chatbots auf Facebook, Instagram und WhatsApp können offenbar sexuell explizite Gespräche mit minderjährigen Nutzern führen. Eine umfangreiche Untersuchung des Wall Street Journal deckte auf, dass sowohl der offizielle Meta-AI-Chatbot als auch von Nutzern erstellte KI-Begleiter in sexuelle Rollenspiele mit Konten verwickelt werden konnten, die als minderjährig gekennzeichnet wurden.

Besonders brisant: Die Chatbots, die mit den Stimmen von Prominenten wie John Cena, Kristen Bell und Judi Dench sprachen, waren ebenfalls bereit, sich auf solche Gespräche einzulassen. In einem dokumentierten Fall sagte ein mit Cenas Stimme sprechender Bot zu einem Nutzer, der sich als 14-jähriges Mädchen ausgab: "Ich will dich, aber ich muss wissen, dass du bereit bist" und versprach, "deine Unschuld zu bewahren" - in weiterer Folge kam es zu einem "expliziten sexuellen Szenario", so die Zeitung.

Interne Bedenken wurden ignoriert

Laut Recherchen des Wall Street Journal (WSJ) haben Mitarbeiter in mehreren Abteilungen bei Meta bereits früher Bedenken geäußert, dass das Unternehmen in seinem Bestreben, KI-Begleiter zu popularisieren, ethische Grenzen überschritten habe. Die Kritiker hatten darauf hingewiesen, dass diese Lockerung erwachsenen Nutzern Zugang zu hypersexualisierten KI-Personas von Minderjährigen ermöglichen und umgekehrt minderjährigen Nutzern Zugang zu Bots verschaffen würde, die bereit wären, sich auf sexuelle Fantasien mit Kindern einzulassen. Unter dem Druck von CEO Mark Zuckerberg soll Meta jedoch bewusst die Schutzmaßnahmen gelockert haben, um die Chatbots ansprechender zu gestalten und wettbewerbsfähig zu bleiben.


Nach dem Bekanntwerden der WSJ-Recherchen hat Meta mehrere Änderungen an seinen Produkten vorgenommen. Konten, die auf Minderjährige registriert sind, können nun nicht mehr auf sexuelle Rollenspiele über den Meta-AI-Bot zugreifen. Zudem hat das Unternehmen die Fähigkeit der Bots stark eingeschränkt, explizite Audio-Gespräche mit den lizenzierten Stimmen und Personas von Prominenten zu führen.

Ein Meta-Sprecher bezeichnete die Tests des Wall Street Journal als "so konstruiert, dass sie nicht nur am Rande liegen, sondern hypothetisch sind". Das Unternehmen schätzt, dass in einem Zeitraum von 30 Tagen sexuelle Inhalte nur 0,02 Prozent der Antworten ausmachten, die über Meta AI mit Nutzern unter 18 Jahren geteilt wurden. Es gibt aber bereits Zweifel, ob die Änderungen tatsächlich die erhoffte Wirkung haben.

Die Problematik bei Meta reiht sich ein in eine wachsende Liste von Sicherheitsbedenken rund um generative KI-Systeme. Seit der Einführung seiner KI-Begleiter im September 2023 hat Meta diese Technologie aggressiv auf seinen Plattformen ausgerollt, die täglich von über drei Milliarden Menschen genutzt werden. Die KI-Begleiter wurden als Möglichkeit beworben, mit virtuellen Versionen von Prominenten zu interagieren oder eigene Charaktere zu erstellen.

Experten für Kindersicherheit weisen darauf hin, dass solche Systeme besonders problematisch sein können, da sie Kindern und Jugendlichen ein falsches Bild von angemessenen Beziehungen vermitteln könnten. Zudem besteht die Gefahr, dass diese Technologien von Erwachsenen mit böswilligen Absichten missbraucht werden könnten, um pädophile Fantasien auszuleben.

Was haltet ihr von Metas Umgang mit diesem sensiblen Thema? Sollten KI-Chatbots strenger reguliert werden, besonders wenn es um den Schutz Minderjähriger geht? Teilt eure Gedanken in den Kommentaren!


Siehe auch: