Microsoft-KI empfiehlt Lebensmittel-Tafel als Touristen-Attraktion

Künstliche Intelligenzen werden immer populärer, und zwar nicht nur in Form von Chatbots, sondern in vielen Bereichen, in denen Inhalte generiert werden müssen. Besonders aktiv ist hier Microsoft und das Unternehmen zeigt aktuell, warum KIs nicht immer eine gute Idee sind.

KI sind nicht immer eine gute Idee

Es ist überaus praktisch, wenn man generative KIs und sogenannte Large Language Models (LLMs) heranziehen kann, um "menschlich" ausformulierte Antworten auf spezielle Fragen zu erhalten. Die Technologie kommt aber auch immer wieder in Bereichen zum Einsatz, wo man sich menschliche Mitarbeiter schlichtweg sparen will.

Zu den aus journalistischer und redaktioneller Sicht nicht unbedingt rühmlichen Pionieren zählt hier Microsofts MSN, denn dort wird bereits seit Längerem mit Textgenerierung per KI experimentiert und gearbeitet. Nun zeigt ein spezieller Fall, warum das auch mal gründlich schiefgehen kann.

Wie Ars Technica berichtet, erschien nämlich dieser Tage in der Reise-Sektion von MSN ein Artikel über touristische Attraktionen der kanadischen Stadt Ottawa, die man "keinesfalls verpassen" sollte. Eine dieser Attraktionen war eine Food Bank, in Deutschland bekannt als Tafel. Der Artikel mit dem Titel "Auf dem Weg nach Ottawa? Das sollten Sie nicht verpassen!" war ganz offensichtlich von einer KI generiert, diese empfahl den Reisenden auch, die Tafel am besten mit einem "leeren Magen" zu besuchen.


Es ist wahrscheinlich bzw. nahezu sicher, dass Microsoft Travel die Information weitgehend aus der Selbstbeschreibung der Tafel übernommen hat. Weite Teile der KI-generierten Beschreibungen lesen sich auch durchaus vernünftig:

"Seit 1984 sammelt, kauft, produziert und liefert die Organisation Lebensmittel an bedürftige Menschen und Familien in der Region Ottawa. Wir beobachten täglich, wie sich der Hunger auf Männer, Frauen und Kinder auswirkt und wie er ein Hindernis für den Erfolg darstellen kann. Die Menschen, die zu uns kommen, haben Arbeit und Familie zu versorgen und Ausgaben zu tätigen. Das Leben ist schon schwierig genug. Denken Sie daran, dass Sie mit einem leeren Magen hingehen müssen."

Es ist natürlich eine Sache, eine karitative Einrichtung als touristische Attraktion anzupreisen, es ist aber noch einmal bedenklicher, diese wie ein Restaurant anzupreisen. Einen echten Hinweis, dass eine KI dafür verantwortlich war, gibt es wie erwähnt nicht, das ist allerdings mehr als wahrscheinlich - und das Ganze zeigt, wie schnell so etwas ins Auge gehen kann.


Siehe auch: