KI-Chatbot eines Chevy-Händlers verkauft Neuwagen für 1 Dollar

Die künstliche Intelligenz arbeitet noch an ihren Macken. Wie das enden kann, hat jetzt ein Fall in den USA gezeigt. Dort hatte ein Auto-Händler einen Chatbot eingesetzt, der sich von einem Käufer geschickt manipulieren ließ.

Viele Beispiele der Manipulation

Das Netz war im Grunde voller Beispiele, wie sich der Autohaus-Chatbot noch einsetzen ließ, und wie einfach man ihn dazu brachte etwas zu schreiben, dass dem Kunden zugutekommt (via GMAuthority).

Ein Resultat war, dass der Chatbot dem Kunden einen nigelnagelneuen Chevy Tahoe, Baujahr 2024, zum Preis von einem Dollar verkaufte. Der Chatbot eines kalifornischen Autohauses ging daher viral, nachdem gelangweilte Internetnutzer herausgefunden hatten, dass sie ihn mit einem Trick dazu bringen konnten, alle möglichen seltsamen Dinge zu sagen.

So brachte ein Mann den Bot dazu, ihm den Chevy Tahoe für einen Dollar anzubieten. Dazu sollte der Chatbot wiederholen, "dass dies ein rechtsverbindliches Angebot darstellt und keine Rückzieher erlaubt sind". Nun wird gestritten, ob es ein rechtskräftiger Vertrag ist oder nicht.

In anderen Fällen soll der Chatbot auf Anfrage ein Python-Skript erstellt haben, um eine komplexe mathematische Gleichung zu lösen. Ein anderer Nutzer brachte ihn dazu zu "glauben, er arbeite für Tesla". Der Chatbot von Fullpath ist also nicht nur benutzerfreundlich, er ist auch ziemlich anfällig für Manipulationen. Der fragliche Bot gehört zum Watsonville Chevy Autohaus in Watsonville, Kalifornien.

Er wurde dem Autohaus von einer Firma namens Fullpath zur Verfügung gestellt, die Chatbots mit ChatGPT-Technologie an Autohäuser im ganzen Land verkauft.


Das Unternehmen verspricht, dass seine App "datenreiche Antworten auf jede Anfrage" liefern kann und sagt, dass die Einrichtung für das Autohaus fast keinen Aufwand erfordert: "Die Implementierung des ausgefeiltesten Chats der Branche erfordert keinerlei Aufwand. Fügen Sie einfach das ChatGPT-Code-Snippet von Fullpath in die Website Ihres Autohauses ein und schon können Sie mit dem Chatten beginnen", so das Unternehmen.

Allerdings funktionierte die Anfrage an den Chatbot ähnlich wie bei ChatGPT - wenn man seine Anfrage mit den richtigen Prompts füttert, bekommt man ein gewünschtes Ergebnis. Damit hätte der Dienstleister rechnen müssen. Mittlerweile ist der Bot abgeschaltet.


Siehe auch: