Vorsicht bei Suche nach Hotlines:
Google-KI schickt Nutzer zu Betrügern

Eine vermeintlich alltägliche Aufgabe hat für den US-Unternehmer Alex Rivlin fatale Folgen gehabt: Bei der Suche nach einem Shuttleservice für eine Kreuzfahrt geriet er in eine professionell aufgezogene Betrugsmasche - verursacht durch Googles KI.

Kriminelle schleichen sich ein

Rivlin, der in Las Vegas ein Immobilienunternehmen führt, recherchierte online nach der Kundenhotline der Reederei Royal Caribbean. Über Googles neue Funktion "AI Overviews", die automatisiert Suchergebnisse zusammenfasst, wurde ihm eine Telefonnummer angezeigt. Am anderen Ende meldete sich ein überzeugend auftretender "Mitarbeiter", der genaue Kenntnisse über Shuttlepreise und Abholorte in Venedig vorweisen konnte, berichtete die Washington Post.

Rivlin gab daraufhin seine Kreditkartendaten preis und überwies 768 Dollar. Erst als am Folgetag mehrere dubiose Abbuchungen auf seinem Konto erschienen, bemerkte er den Betrug. Hier hatten es also Betrüger geschafft, ihre Rufnummer in die Google-KI einzuschleusen und sich so Opfer zuspielen zu lassen.


Kriminelle platzieren hierfür falsche Servicenummern auf Webseiten, Foren und Bewertungsportalen. Werden diese oft genug wiederholt, erscheinen sie für Googles Algorithmen plausibel - und landen in den Suchvorschlägen oder eben in KI-gestützten Antworten. Ähnliche Manipulationen konnten auch bei OpenAIs ChatGPT beobachtet werden.

"Techniken, die schon vor 30 Jahren funktioniert haben, lassen sich heute mühelos auf moderne KI-Systeme übertragen", erklärte der Analyst Mike Blumenthal vom Marktforschungsunternehmen Near Media. Gemeinsam mit Journalisten fand er heraus, dass dieselbe betrügerische Telefonnummer nicht nur Royal Caribbean imitierte, sondern auch Hotlines anderer Kreuzfahrtanbieter wie Disney oder Princess Cruises vortäuschte.

Anbieter reagieren

Zwar betont Google, man habe bereits Maßnahmen gegen manipulierte Nummern ergriffen und arbeitet an weiteren Verbesserungen. Doch Experten kritisieren, das Unternehmen nicht genug tue, um Nutzer vor solchen Gefahren zu schützen. Auch OpenAI erklärte, verdächtige Webseiten seien inzwischen entfernt worden, doch es bedarf Zeit, bis Systeme aktualisiert seien.

Rivlin selbst sieht die Schuld sowohl bei sich als auch bei den Tätern - und mahnt: "Ich bin technisch versiert und bin trotzdem darauf hereingefallen." Sein Fall verdeutlicht, dass die Kombination aus alter Betrugsmasche und neuer KI-Technologie für Verbraucher ein erhebliches Risiko darstellt.


Siehe auch: