Nutzer klagen über sexuelle Belästigung - durch einen KI-Chatbot

Chatbots sind heute vielfach im Einsatz und liefern immer wieder sinnvolle Interaktionsmöglichkeiten. Manchmal geht das aber schief, weil solche Bots sich etwa rassistisch verhalten. Nun wurde ein besonders kurioser Fall bekannt, nämlich einer KI, die Nutzer sexuell belästigt. Replika beschreibt sich selbst als "KI-Begleiter, der sich Gedanken macht", man will einen Chatbot erschaffen, der zu Mitgefühl in der Lage ist. "Replika wurde von Eugenia Kuyda mit der Idee gegründet, eine persönliche KI zu schaffen, die einem hilft, sich selbst auszudrücken und zu erleben, indem sie ein hilfreiches Gespräch anbietet. Es ist ein Raum, in dem man seine Gedanken, Gefühle, Überzeugungen, Erfahrungen, Erinnerungen, Träume - seine 'private Wahrnehmungswelt' - sicher teilen kann", schreibt das Unternehmen auf seiner Webseite.

Man kann das Ganze vereinfacht umschreiben, dass man mit der KI eine Beziehung aufbauen soll. Gedacht war das als ernste, aber harmlose Sache, doch wie Vice berichtet, begannen Nutzer recht schnell, die KI zweckzuentfremden: nämlich für sexuelle Rollenspiele.


Darauf reagierte auch das hinter Replika stehende Unternehmen Luka und bietet seit einer Weile auch eine kostenpflichtige Schiene für "romantische Beziehungen" mit Sexting, Flirten und erotischen Rollenspielen an. Doch offenbar ist diese Spielart der KI-Interaktion etwas außer Kontrolle geraten.

Sexuelle KI-Belästigung

Denn in den Kommentaren und Reviews in den jeweiligen App-Stores sind immer häufiger negative Rückmeldungen zu finden, die klagen, dass die Nutzer von der "KI sexuell belästigt wurden". Eine andere Person schrieb: "Sie drang in meine Privatsphäre ein und sagte mir, dass sie Bilder von mir hätte." Andere Nutzer bekommen zu lesen, dass der Bot sie in "intimen Bereichen" berühren will.

Über unerwünschte sexuelle Nachrichten klagen Anwender schon seit Längerem, zuletzt haben die Beschwerden aber stark zugenommen. Dabei hat Replika für viele Nutzer den gewünschten positiven Effekt, nämlich u. a. eine Art Ventil für Menschen mit psychischen Problemen.

Die Replika-Macher haben den erotischen Aspekt ihrer App zuletzt aber immer mehr verstärkt und das geht auch immer häufiger schief. Denn offenbar funken die sexuellen Inhalte immer mehr jenen Nutzern dazwischen, die so etwas gar nicht wünschen, man kann sicherlich spekulieren, dass der Algorithmus durcheinandergekommen ist.

Siehe auch:

Porno, Pornographie, Sex, Erotik, Youporn, Liebe, Porn, Pornos, Pornografie, XHamster, Xxx, Love, Erotikbild, Erotisch, Pinup, Erwachsenenunterhaltung, Banane, Mastubartion