Fake-Reviews: KI-Chatbots werden für Amazon zum Riesenproblem

Amazon-Bewertungen spielen bei der Kaufentscheidung eine große Rolle, die meisten von uns lesen sich diese vor einer Bestellung durch. Doch dort kämpft der Händler immer wieder mit Bots und Fakes - und dieser Kampf wird durch den Einsatz von KIs nicht einfacher, im Gegenteil. Künstliche Intelligenzen, die auf Basis von nur wenigen Eingaben beeindruckend echt und vor allem "menschlich" klingende Texte schreiben können, sind eine faszinierende Entwicklung. Dank Diensten wie Microsofts Bing und der dortigen Integration von ChatGPT stehen solche KIs mittlerweile allen bequem zur Verfügung.

Für Amazon wird diese Technologie aber immer mehr zum Problem. Denn schon jetzt unternimmt der Versandhändler große Anstrengungen, um Fake-Reviews zu löschen. Das wird aber immer schwieriger, weil diese Fälschungen, die in der Regel ein Produkt per Manipulation der Rezensionen "verbessern" sollen, durch den Einsatz der Text-KIs deren Erkennung erschweren.

KI-Texte werden direkt übernommen

Wie CNBC berichtet, tauchen solche Fälschungen immer häufiger in den Produkt-Rezensionen auf. Denn die Ersteller solcher Fakes geben sich oftmals nicht einmal die Mühe, den von der KI ausgespuckten Text zu lesen bzw. anzupassen. Stattdessen werden die Antworten eins zu eins übernommen bzw. von einem Bot ohne Änderungen beim dazugehörigen Produkt gepostet.

Das kann man oftmals erkennen, weil diese Texte folgendermaßen beginnen: "Als KI-Sprachmodell ..." Das ist ein Textfragment, das häufig von ChatGPT ausgespuckt wird, und bei dem der Bot eben gleich zu Beginn klarstellt, wer für diese Antwort verantwortlich ist.

Das macht es Amazon zwar letztlich besonders einfach, zu erkennen, dass es Fakes sind, es gibt aber zweifellos viele solche Texte, bei denen es keinen expliziten Hinweis auf eine KI gibt. Microsoft beteuert, dass man dagegen vorgeht: "Wir möchten, dass Amazon-Kunden mit dem Wissen einkaufen, dass die Bewertungen, die sie sehen, authentisch und vertrauenswürdig sind", so ein Sprecher gegenüber CNBC - leicht wird das aber sicherlich nicht sein.


Siehe auch: