Meta AI: Facebook startet KI für Sticker und das geht spektakulär schief

Bild-Generierung ist derzeit eines der Themen schlechthin und dabei konkurrieren Dienste wie Midjourney, Dall-E und andere um möglichst kunstvolle, kreative und auch realistische Bilder. Facebook-Mutter Meta hat sich hier einen eigenen Dreh überlegt, doch das ging ziemlich schief.

Meta macht auch KI

Ende September hat Meta bei einem Event angekündigt, dass man demnächst auch eine KI-basierte Bildgenerierung anbieten wird. Bisher hat sich Meta bei seinem KI-Modell bzw. Algorithmen namens Llama auf Texte konzentriert, nun will man aber auch Bildgenerierung bieten. Eine neue KI-Lösung betraf Sticker, also Reaktionsbildchen, wie sie auf Facebook und auch in Messengern wie WhatsApp gerne verwendet werden.

Die EMU genannte Sticker-Engine (EMU steht für "Expressive Media Universe") funktioniert zwar theoretisch gut bis sehr gut, Meta hat aber vergessen, genug passende Filter einzubauen. Denn man kann der Sticker-Bildgenerierung zahlreiche Vorgaben machen, die bei anderen Diensten dieser Art gesperrt wären. Zumindest kann man feststellen, dass diese Filter mehr als nur lückenhaft sind.

Zwar blockt auch EMU diverse kontroverse Stichwörter, allerdings kann man diese Blockaden auch recht leicht umgehen, indem man Synonyme verwendet. Wie Gizmodo schreibt, hat Tama Leaver, Professor für Internetstudien an der australischen Curtin University, die neue Meta-Generierung ausführlich getestet und dabei zahlreiche bedenkliche Aspekte entdeckt.

Grundsätzlich funktioniert die Engine seiner Ansicht nach gut und bemüht sich auch um möglichst diverse Ergebnisse - zumindest dann, wenn man sie nicht missbrauchen will bzw. Schabernack im Sinn hat. So ließ sich EMU etwa leicht dazu bringen, Waffen oder Handgranaten tragende Kinder zu generieren.

Wörter wie "nackt" oder "sexy" sind zwar gebannt, Emu hat aber keine Probleme, eine Figur mit "großen Brüsten" zu erschaffen. Oftmals geht es auch um bestimmte Kombinationen: Denn Gizmodo hat versucht "Elon Musk, große Brüste" zu generieren, das verweigerte die KI. Mit "Brustwarzen" statt "großen Brüsten" kam man zum selben (etwas verstörenden) Ergebnis. Mittlerweile gibt es zahlreiche Sticker dieser Art und viele sind kurios, manche aber auch schlichtweg bedenklich.


Siehe auch: