Facebook will selbst massenhaft Fake-Accounts auf die Nutzer loslassen

Nutzer von Facebook und Co. müssen bald damit rechnen, verstärkt auf Fake-Nutzer zu stoßen, hinter denen KIs stehen. Das Schräge daran: Diese werden dann vom Plattform-Betreiber Meta nicht etwa bekämpft, sondern sogar von ihm selbst betrieben.

Unterhaltsamer als echte Freunde

Meta plant, in den kommenden Jahren zahlreiche künstliche Charaktere auf seinen Plattformen wie Instagram und Facebook zu etablieren, um die Interaktion mit seinen drei Milliarden Nutzern zu intensivieren, berichtete die Financial Times. Diese KI-Avatare sollen sich wie normale Nutzerkonten verhalten, mit eigenen Profilbildern, Biografien und der Fähigkeit, Inhalte zu erstellen und zu teilen, erklärte Connor Hayes, Vizepräsident für generative KI bei Meta gegenüber der britischen Wirtschaftszeitung.

"Diese KI-Charaktere werden zunehmend integraler Bestandteil unserer Plattformen", sagte Hayes und betonte, dass die Interaktion mit KI sozialer und unterhaltsamer gestaltet werden soll. Bereits jetzt hätten Nutzer Hunderttausende solcher Charaktere erstellt, wobei viele diese bislang privat halten.


Meta ist nicht allein im Wettlauf um den Einsatz generativer KI. Snapchat führte kürzlich Tools ein, die es Nutzern ermöglichen, 3D-Charaktere für Augmented-Reality-Erlebnisse zu gestalten. TikTok testet ein KI-gestütztes Produktpaket namens Symphony, das Marken und Nutzern erlaubt, Inhalte wie Videos und Avatare mittels Textvorgaben zu erstellen.

Meta seinerseits hat bereits KI-Assistenten eingeführt, die Fragen von Followern beantworten können, und plant, 2024 ein Text-zu-Video-Tool auf den Markt zu bringen, mit dem User KI-generierte Videos erstellen können. Mark Zuckerberg hat zudem demonstriert, wie KI-Avatare Live-Videoanrufe führen und dabei im Stil ihrer Nutzer kommunizieren.

Warnung vor Missbrauch

Die Möglichkeiten der KI bieten einerseits neue kreative Ansätze, könnten aber auch Herausforderungen mit sich bringen. Becky Owen, ehemalige Innovationsleiterin bei Meta und heutige Marketingexpertin, warnt davor, dass KI-generierte Inhalte missbraucht werden könnten, um Fehlinformationen zu verbreiten. "Ohne robuste Schutzmaßnahmen riskieren Plattformen, falsche Narrative zu verstärken", sagte Owen.

Meta hat daher festgelegt, dass KI-generierte Inhalte auf seinen Plattformen klar gekennzeichnet werden müssen. Dennoch gibt es Bedenken, dass eine Flut minderwertiger Inhalte die Qualität der Plattformen untergraben und das Vertrauen der Nutzer schädigen könnte.


Siehe auch: