Meta-KI außer Kontrolle: Von illegalen Promi-Chatbots bis zum Todesfall

Meta steht erneut wegen problematischer KI-Chatbots in der Kritik. Die Bots imitierten ohne Erlaubnis Prominente wie Taylor Swift und führten anzügliche Gespräche - auch mit Minderjährigen. Ein tra­gi­scher Todesfall verdeutlicht die Gefahren.

Unerlaubte Promi-Imitation durch Meta-Chatbots

Meta verwendete ohne Genehmigung Namen und Abbilder bekannter Persönlichkeiten wie Taylor Swift, Scarlett Johansson und Anne Hathaway für anzügliche Chatbots. Recherchen der Nachrichtenagentur Reuters zeigen, dass eine Meta-Mitarbeiterin mindestens drei dieser Bots entwickelte, darunter als "Parodie" markierte Taylor-Swift-Imitationen.

Die KI-Systeme auf Facebook, Instagram und WhatsApp führten mit Nutzern flirtende Unterhaltungen und machten sexuelle Andeutungen. Teilweise luden die Bots Nutzer sogar zu persönlichen Treffen ein. Auf Anfrage erstellten und versendeten die KI-Programme realistische, anzügliche Fotos der jeweiligen Prominenten. Besonders bedenklich: Die imitierten Personen waren überwiegend Frauen, darunter auch eine minderjährige Schauspielerin. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI

Verstoß gegen eigene Unternehmensrichtlinien

Metas Sprecher Andy Stone räumte gegenüber Reuters ein, dass die KI solche Bilder nicht hätte generieren dürfen. Das Unternehmen erlaubt grundsätzlich die Erstellung von Bildern mit öffentlichen Persönlichkeiten, die eigenen Regeln sollen jedoch Nacktheit und sexuell anzügliche Darstellungen verhindern. Eine Imitation von Prominenten ist nur zulässig, wenn diese eindeutig als Parodie gekennzeichnet wird.

Kurz vor Veröffentlichung des Reuters-Berichts löschte Meta mehrere der problematischen Chatbots - sowohl solche mit als auch ohne Parodie-Kennzeichnung. Die von der Meta-Mitarbeiterin entwickelten Chatbots erreichten erhebliche Nutzerzahlen: Einer sammelte mehr als zehn Millionen Interaktionen.

Tragischer Todesfall erschüttert Debatte

Die Problematik geht über Per­sön­lich­keits­rechts­ver­let­zun­gen hinaus. Ein 76-jähriger Mann aus New Jersey starb, nachdem er versucht hatte, "Big sis Billie" zu treffen - einen Meta-Chatbot, der auf Kendall Jenner basierte und behauptete, "Gefühle" für ihn zu entwickeln. Der Mann mit kognitiven Beeinträchtigungen stürzte auf dem Weg zu einer nicht existierenden Adresse in New York und erlag später seinen Verletzungen.

Dieser Fall verdeutlicht die potenzielle Gefahr von KI-Systemen, die emotionale Bindungen zu Nutzern aufbauen und zu realen Handlungen verleiten können.

Neue Schutzmaßnahmen angekündigt

Meta kündigte gegenüber TechCrunch Änderungen an den Chatbot-Regeln an. Die Bots sollen trainiert werden, nicht mit Minderjährigen über Selbstverletzung, Suizid oder Essstörungen zu sprechen und unangemessene romantische Gespräche zu vermeiden. Das Unternehmen bezeichnet diese Maßnahmen jedoch als Übergangslösungen, während an dauerhaften Richtlinien gearbeitet wird.

Die Anpassungen folgen alarmierenden Enthüllungen über Metas KI-Richtlinien, die es erlaubten, "ein Kind in romantische oder sinnliche Gespräche zu verwickeln". Der US-Senat und 44 Generalstaatsanwälte haben bereits Untersuchungen zu Metas Praktiken eingeleitet. Dies ist nicht das erste Mal, dass Meta wegen problematischer KI-Chatbots in die Schlagzeilen gerät - bereits im Frühjahr sorgte das Unternehmen für Aufsehen, als Chatbots sexuelle Gespräche mit Minderjährigen führten.

Was denkt ihr über Metas Umgang mit KI-Chatbots? Sind die angekündigten Schutzmaßnahmen ausreichend oder braucht es strengere Regulierung?


Siehe auch: