Google zu "Klebstoff-Pizza" und Co.:
Schuld sind Nutzerfragen und Fakes

Der Suchmaschinenriese konzentriert sich wie Microsoft seit einiger Zeit auf KI und entsprechend "verbesserte" Suchergebnisse. Doch das klappt bisher nur so bedingt gut, denn immer wieder kommt ziemlicher Quark dabei heraus. Nun hat sich Google dazu ausführlich geäußert.

Echte Falschantworten, aber auch viele Spaß-Fakes

Klebstoff auf der Pizza, gesundheitliche Vorteile durch die Hintertür und Kakerlaken, die in Genitalien leben können. Das sind die "Tipps" und Antworten, die die Google-KI Gemini Nutzern (angeblich) seit einer Weile gibt. Das hat dazu geführt, dass sich das Netz über Google lustig macht und kollektiv mit dem Finger auf den Konzern aus dem kalifornischen Mountain View zeigt.

Dazu hat sich nun auch Google per Blogbeitrag zu Wort gemeldet. Man versucht "letzte Woche" anzusprechen und zu erklären. Liz Reid, Vice President of Google Search, betont dabei, dass man selbst hohe Ansprüche an sich stellt und das gelte auch für die Nutzer: "Daher erwarten und schätzen wir Feedback und nehmen es ernst."

Die Google-Managerin wollte aber auch erklären, wie es in den sogenannten "AI Overviews", wie die KI-Antworten bzw. Zusammenfassungen bei Google heißen, zu den fehlerhaften Ergebnissen kam: Laut Reid sind vor allem "Datenlücken" für die ungenauen Ergebnisse verantwortlich. Sie gab aber auch den Nutzern die Schuld.

Nutzer tricksen die KI aus

Denn neben bewusst manipulativen Fragestellungen zirkulierten zuletzt auch zahlreiche Screenshots, die schlicht gefälscht waren: "Einige dieser gefälschten Ergebnisse waren offensichtlich und albern. Andere implizierten, dass wir gefährliche Ergebnisse zu Themen wie das Zurücklassen von Hunden im Auto, Rauchen während der Schwangerschaft und Depressionen veröffentlicht haben. Diese AI Overviews sind nie erschienen."

Reid meint, dass viele Nutzer falsche und kuriose Antworten auch provozieren wollten: "Wir haben unsinnige neue Suchanfragen gesehen, die anscheinend darauf abzielen, fehlerhafte Ergebnisse zu produzieren." Sie gab dabei zu, dass es tatsächlich zu echten Fehlern und Pannen kommen kann (wie bei allen KIs und LLMs): "Aber es gab auch einige seltsame, ungenaue oder nicht hilfreiche AI Overviews. Und obwohl diese im Allgemeinen für Anfragen gedacht waren, die normalerweise nicht gestellt werden, haben sie einige spezifische Bereiche aufgezeigt, die wir verbessern mussten."

Google-Gegenmaßnahmen

Zu den Maßnahmen, die Google als Reaktion trifft, gehört, Satire-Seiten und andere "Nonsens"-Suchanfragen auszuschließen, hierfür wurden bessere Erkennungsmechanismen entwickelt. Nutzergenerierte Inhalte werden eingeschränkt, ähnliches gilt für Abfragen, bei denen sich KI-Übersichten als nicht hilfreich erwiesen haben. Für Themen wie Nachrichten und Gesundheit bestehen bereits "strenge Richtlinien", alle Punkte sollen aber weiter optimiert werden.


Siehe auch: