Gefährliche KI: Meta AI vermittelt Facebook-Nutzer an Betrüger-Hotline

Metas AI hat einen Kanadier auf der Suche nach dem Facebook-Support an eine Telefonnummer verwiesen, die zu Betrügern gehört. In kurzer Zeit war der Mann mehrere hundert US-Dollar los. Besonders peinlich dabei: Facebook bietet generell keinerlei Kundendienst per Telefon an.

Meta AI gibt folgenschwere Falschauskunft

Künstliche Intelligenz ist schon beinahe überall. Auch der Meta-Konzern hat mit Llama sein eigenes Large Language Model (LLM). Das wird unter dem Namen Meta AI zum Beispiel auf Facebook eingesetzt. Damit lassen sich Bilder generieren, Texte umschreiben oder Informationen aus dem Internet finden. Bei einer recht einfachen Anfrage hat Meta AI jetzt aber komplett versagt.

Denn Dave Gaudreau, ein kanadischer Nutzer, hatte sich ein neues Smartphone zugelegt. Daraufhin wollte er seine auf dem alten Telefon installierten Apps samt Daten auf das neue Gerät transferieren. Doch bei der Übertragung seines Facebook-Kontos stieß er auf Probleme.

Falsche Telefonnummer als echt identifiziert

Also machte sich seine Frau im Internet auf die Suche nach einer Lösung. Sie fand eine vermeintliche Telefonnummer des Facebook-Kundendienstes. Um sicherzugehen, dass es sich bei der Nummer auch um eine echte Support-Hotline des Unternehmens handelte, fragte Gaudreau im Facebook Messenger die Meta AI, wie CBC berichtet.

Die gab recht überzeugt von der Richtigkeit ihrer Auskunft folgende Antwort: "Die Telefonnummer [...] ist in der Tat eine echte Nummer für den Facebook-Support. Meta, das Unternehmen hinter Facebook, listet diese Nummer als einen Kontakt für Meta-Support, der Facebook, Instagram und andere Plattformen umfasst."

Davon ausgehend, dass der KI-Chatbot die Telefonnummer seines eigenen Unternehmens kennt, griff Gaudreau zum Telefon. "Meta, direkt in der Facebook-App, sagt mir, dass [die Nummer] richtig ist. Ich hatte also keinen Grund zu glauben, dass es nicht so ist", meint er. Doch weit gefehlt. Infografik Social Media-Nutzung: Facebook verliert die Jugend

Betrüger stehlen Geld

Eine Frau am anderen Ende der Leitung fragte nach dem Facebook-Benutzernamen, der E-Mail-Adresse und Telefonnummer. Daraufhin teilte sie Gaudreau mit, sein Konto sei gehackt worden. Sie könne die Angreifer aber stoppen, wenn er eine App auf seinem Smartphone installiere, zu der sie ihm den Link schickte. Da die Meta AI ihm gesagt hatte, dass es sich um die echte Facebook-Hotline handelte, tat der Kanadier das, was ihm gesagt wurde.

Nach einer Weile erkannte seine Frau den Betrug jedoch. Doch da war es bereits zu spät. Mit Gaudreaus Kreditkarte waren Apple-Guthabenkarten im Wert von 500 US-Dollar bezahlt worden. Einen Versuch, Kryptowährungen zu kaufen, lehnte seine Bank glücklicherweise ab.

Am Ende bekam Gaudreau sein Geld zurückerstattet. Allerdings wird er eigenen Aussagen zufolge künstlicher Intelligenz nicht mehr so schnell vertrauen. Was den Vorfall besonders brisant macht, ist, dass Facebook generell keinerlei Telefon-Support für seine Kunden anbietet. Das hätte die Meta AI wissen können.

KI von eigenen Antworten überzeugt

Dass KIs falsche Auskünfte geben, ist nichts Neues. Eine erst kürzlich veröffentlichte Studie fand heraus, dass LLMs von ihnen gegebene, nachweislich falsche Antworten in den allermeisten Fällen sogar mit Nachdruck als korrekt bezeichnen. Dabei liefern die KIs sehr überzeugende Erklärungen, die schlussfolgerungsartige oder auf anderem Wege plausibel klingende Aussagen enthalten, um ihre oft unsinnigen Antworten zu unterstützen. Besonders dramatisch ist es allerdings, wenn dadurch Leute zu Schaden kommen, wie es beinahe im vorliegenden Fall von Dave Gaudreau passiert wäre.


Siehe auch: