Microsoft: Wenn die KI seltsam antwortet, ist das Gespräch zu lang

Microsoft zufolge kann es aufgrund des Umstands, dass die KI-In­te­gra­ti­on bei der Suchmaschine Bing noch in einem relativ frühen Stadium steckt, durchaus zu "Entgleisungen" in den Chats mit dem System kommen. Als Grund dafür nennen die Entwickler unter anderem, dass der Chatbot noch nicht gut mit langen Gesprächen klarkommt. Nachdem in den letzten Tagen nach einem anfänglich sehr großen Hype um die Integration der von der Startup-Firma OpenAI entwickelten Text-KI-Funktionen in Microsofts Suchmaschine Bing und den Browser Edge immer wieder Berichte aufkamen, wonach der Chatbot Nutzer beleidigt, belogen oder angeblich emotional manipuliert habe, hat Microsoft jetzt in einem ausführlichen Blog-Eintrag reagiert.

Darin erklärt das Team hinter dem Projekt, dass man sich nicht vorstellen habe können, in welchem Umfang und auf welche Art der KI-basierte Chat in Bing genutzt werden würde. Die Menschen würden das Tool in den sieben Tagen seit Beginn der Preview-Phase unter anderem für "Social Entertainment"-Zwecke oder als Mittel zum "generellen Entdecken der Welt" verwenden, so die Entwickler.

Bings KI-Bot gerät nach 15 oder mehr Fragen oft auf die schiefe Bahn

Dabei habe sich aber auch gezeigt, dass es noch einige Probleme gibt. Bei Chat-Sessions mit 15 oder mehr Fragen könne es zu einer Konfusion des Bing-KI-Modells kommen. Die KI könne dann unter Umständen wiederholende Antworten geben oder leicht dazu gebracht werden, Antworten zu liefern, die weder der Wahrheit noch dem guten Ton entsprechen würden. Im Grunde werden manche Chat-Sessions mit der Bing-KI einfach zu lang, um noch sinnvolle Antworten zu erhalten.

Microsoft stellte deshalb unter anderem in Aussicht, dass man eine Möglichkeit zum Neustart einer Chat-Session mit dem Bing-Bot integrieren wolle. Tatsächlich kann es vorkommen, dass sich der Chatbot im Ton vergreift und dem Nutzer zum Beispiel vorwirft, er sei unhöflich, lüge oder manipuliere. Dies passiert sogar schneller als man vielleicht denken mag, nämlich innerhalb einiger weniger Interaktionen.

Was die falschen Antworten angeht, die der auf Basis von Technologien aus dem Bereich der Künstlichen Intelligenz von OpenAI und Microsoft selbst entwickelte Chatbot lieferte, möchte der Softwarekonzern schnell nachbessern. Dazu werde man die Daten, mit denen das System zum Beantworten mit Fakten- oder Direktfragen gefüttert wird, mindestens vervierfachen, sodass Fehler seltener werden sollen.

In den letzten Tagen hatte es immer wieder Berichte gegeben, laut denen der auf ChatGPT-Konzepten basierende Bot keine korrekten Fakten zu Dingen wie Finanzberichten von Firmen, Sport-Ergebnissen oder anderen Dingen geliefert hatte. Teilweise wurde auch kritisiert, dass der Bing-Bot bei seinen Antworten zu "kreativ" wird und das KI-Modell "halluziniert", wodurch falsche oder gar beleidigende Antworten zustande kamen.


Siehe auch: