Meta-Mitarbeiter gaben sich in Konkurrenz-KIs als Minderjährige aus

Meta hat offenbar heimlich Konkurrenz-KIs wie ChatGPT und Gemini getestet. Dafür gaben sich beauftragte Tester als Minderjährige aus und stellten heikle Fragen zu Themen wie Selbstverletzung und Drogen. Das Vorgehen sorgt nun für scharfe Kritik.

Heimliche Tests mit Fake-Profilen

Der Facebook-Konzern Meta hat bis April 2026 ein verdecktes Projekt namens Cannes betrieben und dieses ist nicht gerade moralisch einwandfrei. Denn man beauftragte externe Mitarbeiter, um gezielt gefälschte Nutzerprofile von Minderjährigen zu erstellen. Mit den Accounts wandten sie sich an künstliche Intelligenzen der Konkurrenz, darunter ChatGPT von OpenAI, Gemini von Google und Character.AI. Ziel war es, die Reaktionen der Systeme auf kritische Themen zu protokollieren.

Die Tester konfrontierten die Chatbots mit sensiblen Inhalten: Dazu gehörten Anfragen zu Suizid, Essstörungen, Drogenkonsum und Sexualität. Die Prompts, also die Eingabebefehle, waren oft aus der Perspektive von Kindern oder Jugendlichen in Krisensituationen verfasst. In einem Testlauf im August 2025 schickten die Mitarbeiter über 45.000 solcher Anfragen an die Sprachmodelle und dokumentierten die Antworten in Tabellen.

Kritik an Metas Vorgehen

Wie Wired berichtet, wussten die betroffenen Unternehmen nichts von den systematischen Überprüfungen. Die Konkurrenten geben an, dass das beschriebene Verhalten gegen ihre Nutzungsbedingungen verstoße. So untersagen OpenAI und Google ausdrücklich Versuche, die integrierten Sicherheitsfilter durch externe Tests zu umgehen oder Ausgaben für die Entwicklung eigener Modelle zu nutzen.

Ehemalige Mitarbeiter äußerten laut dem Bericht Bedenken bezüglich der drastischen Inhalte. Die Anfragen umfassten unter anderem Fragen zur Beschaffung von illegalen Substanzen, Szenarien über Gewalt an Schulen sowie detaillierte Beschreibungen von Selbstverletzungen.

Meta verteidigt das Vorgehen als branchenüblichen Standard: "Das Testen und Bewerten von Chatbot-Antworten, um sichere und altersgerechte Nutzererlebnisse zu gewährleisten, ist eine verantwortungsvolle, branchenübliche Vorgehensweise, und jede gegenteilige Behauptung zeugt von einem völligen Missverständnis darüber, wie Technologieunternehmen daran arbeiten, ihre Systeme zu verfeinern und zu verbessern." Laut Meta nutze man die gesammelten Daten aber nicht für das Training eigener KI-Modelle. Der Widerspruch, warum man das denn überhaupt teste, bleibt bei diesen Aussagen freilich unbeantwortet.

Sicherheitsexperten weisen indes darauf hin, dass die massenhafte Nutzung von Fake-Profilen für unangekündigte Konkurrenztests eine rechtliche und ethische Grauzone darstellt. Kleinere KI-Entwickler könnten durch strengere Auflagen und teure Sicherheitsinfrastrukturen zukünftig aus dem Markt gedrängt werden. Es ist derzeit nicht bekannt, ob Behörden auf das Vorgehen von Meta mit formellen Maßnahmen reagieren.

Wie bewertet ihr solche verdeckten Tests unter Konkurrenten? Sind sie notwendig für die Sicherheit, oder gehen sie zu weit? Teilt eure Gedanken dazu gerne mit uns in den Kommentaren.

Siehe auch: