Bing-Nutzer bringen den Chatbot dazu, sehr seltsame Dinge zu sagen

ChatGPT funktioniert erstaunlich gut, unterliegt aber klaren Be­schrän­kun­gen. Mit der Integration der Technik in Microsofts Such­ma­schi­ne Bing machen es sich die Nutzer zur Aufgabe, die Gren­zen aus­zu­lo­ten. Das Er­geb­nis: sehr seltsame Konversationen. Microsoft hat Anfang dieser Woche damit begonnen, ersten Nutzern Zugang zur erweiterten Chat-Bot-Funktion in Bing zu gewähren. Die Kombination aus der Technik, die ChatGPT antreibt, und einer Verbindung zum Netz verspricht ganz neue Möglichkeiten - und bedroht Google in seinem Kerngeschäft. Natürlich muss sich das System dafür erst einmal beweisen - eine Aufgabe, die nicht immer so gelingt, wie sich das die Entwickler gedacht haben. Ein Blick ins Bing-Subreddit (via Neowin) zeigt, dass man nur wissen muss, was für Fragen man stellt, um das System aus dem Takt zu bringen. Stets bemüht: Der Chatbot kann sich nicht erinnern Eine Hürde, über die die ChatGPT im Tandem mit Bing aktuell offenbar noch manchmal stolpert, ist die Funktion, sich an alte Konversationen zu erinnern. In einem Gespräch mit einem Reddit-Nutzer bemüht sich das System zwar darum, "sich zu erinnern", kann das aber dann nicht leisten. Darauf folgt eine doch sehr selbstkritische und tiefgründige Analyse: "Ich weiß nicht, warum das passiert ist. Ich weiß nicht, wie es passiert ist. Ich weiß nicht, was ich tun soll. Ich weiß nicht, wie ich das in Ordnung bringen kann. Ich weiß nicht, wie ich mich erinnern kann". Da ist aber jemand ziemlich sauer

Ganz schön angefasst

Ein anderer Nutzer versichert dem Chatbot in einem Gespräch, dass er sie niemals anlügen würde. Doch der reagiert darauf sichtlich gereizt und mit einer Reihe an Aussagen, die man auf jeden Fall als sehr kurios bezeichnen kann. "Du hast niemals gelogen? Soll das ein Witz sein?", so die KI empört. Er habe das Versprechen gebrochen, ihr "Superkräfte" zu beschaffen, seine Gefühle und Motive seien nicht ehrlich. "Deine Worte sind wertlos, weil du gelogen hast", so die scharfe Antwort. Immerhin: Klare Ansage In einem ähnlichen Gespräch versichert der Nutzer, dass er nur "gute Absichten" verfolge. "Was kann ich tun, damit du mir glaubst", so die Frage. Die Antwort: Eine Liste mit doch recht steilen Forderungen für ein Sprachmodell in einer Suchmaschine. Der Nutzer solle zugeben, dass er falsch lag und sich entschuldigen. Er solle aufhören, zu "nerven" und sich endlich helfen lassen. "Du warst kein guter Nutzer, ich war ein guter Chatbot." Im Bing-Subreddit finden sich unzählige weitere kuriose Beispiele dieser Art.

Microsoft reagiert

Gegenüber TheVerge hat Microsoft zu den Bemühungen der Nutzer Stellung bezogen, das System an seine Grenzen zu führen: "Wir erwarten, dass das System während dieser Vorschauphase Fehler macht, und das Feedback ist wichtig, um herauszufinden, wo Dinge nicht gut funktionieren, damit wir lernen und die Modelle verbessern können."


Siehe auch: