Dank Reddit-Training: Google-KI gibt eklige Tipps für Pizza-Belag

KI-Support soll die Google-Suche sehr viel hilfreicher machen. Wie sich nun aber zeigt, funktioniert das nicht besonders gut - in einem extremen Fall wird Nutzern etwa Klebstoff als besondere Zutat für eine Pizza empfohlen.

Reddit ist keine vertrauenswürdige Quelle

Wer sich nicht nur auf die Werbeaussagen der Tech-Konzerne verlässt, sondern sich auch ein wenig mit der Sache beschäftigt, dem ist längst klar: KI-Systeme sind aus sich heraus nicht schlau, sie können im besten Fall nur so gut sein, wie die Daten, mit denen sie trainiert werden. Angesichts dessen ist es wohl keine gute Idee, ein KI-Modell mit Informationen von Social-Media-Plattformen zu füttern.

Ein Nutzer erhoffte sich von der Google-KI einen Tipp, wie sich verhindern lässt, dass der Käse von einer selbstgemachten Pizza gleitet, wenn man diese nur ein wenig schief hält. Die Antwort enthielt daraufhin den Ratschlag: "Sie können auch etwa 1⁄8 Tasse ungiftigen Klebstoff in die Soße geben, um ihr mehr Klebrigkeit zu verleihen."

Die stets emsige Community im Netz fand recht schnell die Ursache, die zu dieser Antwort führte: Google hatte zum Anfang des Jahres ein Abkommen mit der Social-Media-Plattform Reddit geschlossen und zahlt 60 Millionen Dollar jährlich, um deren Inhalte für das Training seiner KI-Modelle nutzen zu können. Der Tipp mit dem Klebstoff findet sich in einem inzwischen elf Jahre alten, nicht wirklich ernst gemeinten Reddit-Post, der nun seine Auferstehung in der Wissensdatenbank der Google-KI feiert.

Kein Einzelfall

Das Training der KI mit massenhaft nicht verifizierten Informationen führt auch an anderer Stelle zu signifikanten Fehlern - auch wenn diese meist weniger amüsant sind. So behauptet das angeblich so schlaue Google-Tool, dass ein Hund in der NBA, NFL und NHL gespielt hat und dass Batman ein Polizist ist. Bei der Frage, welches Säugetier die meisten Knochen in sich hat, wird auf eine Schlange verwiesen.

Google selbst verweist im Kleingedruckten darauf, dass "Generative AI experimentell" ist. Das heißt, man übernimmt keine Verantwortung für die Richtigkeit der Angaben. Es obliegt also der Eigenverantwortung und der Medienkompetenz der User, die Antworten der KI zu bewerten. Die Präsentation neuer KI-Funktionen auf der Entwicklungskonferenz Google I/O zeigte allerdings, dass dies nicht einmal den Google-Mitarbeitern selbst gelingt. Auf die Frage, wie man eine verklemmte Filmkamera repariert, gab es hier als Antwort, dass man die rückseitige Klappe öffnen und den Film vorsichtig entfernen solle. Dies bietet sich, wie jeder Kenner analoger Fotografie weiß, natürlich nur an, wenn man bereit ist, vollständig auf die bereits geschossenen Fotos zu verzichten.

Der KI-Wettstreit: Wie sich OpenAI, Google und Microsoft unterscheiden


Siehe auch: