Schräge Antworten: Google räumt jetzt manuell hinter seiner KI auf

Google bemüht sich, die aufgetauchten seltsam - bis gefährlichen KI-Antworten aus der Google-Suche manuell zu entfernen. Das hat das Unternehmen jetzt bestätigt, nachdem die Kritik an den KI-Ergebnissen immer lauter wurde.

Sehr seltsame Ergebnisse

In den sozialen Medien häufen sich Beispiele dafür, dass Googles neue KI-Übersichtsanzeige (AI Overview) in den Suchergebnissen sehr seltsame Dinge angibt, von der Aufforderung an Nutzer, Pizzasauce mit Klebstoff anzureichern, bis hin zum Vorschlag, Steine zu essen (wir berichteten).

Google ist zwar weiterhin überzeugt, dass die KI Nutzern größtenteils "hochwertige Informationen" liefert. "Viele der Beispiele, die wir gesehen haben, waren ungewöhnliche Abfragen, und wir haben auch Beispiele gesehen, die manipuliert waren oder die wir nicht reproduzieren konnten", erklärte Google-Sprecherin Meghann Farnsworth auf Nachfrage des Online-Magazins The Verge.


The Verge wollte wissen, wie das Unternehmen mit den falschen Antworten umgeht. Ein Problem ist dabei, dass Googles KI die Ergebnisse nicht selbstständig auf Plausibilität prüfen kann.

Farnsworth bestätigte, dass Google daher "schnell Maßnahmen" ergreift, um die KI-Antworten für eine Reihe Abfragen zu entfernen, "wo dies im Rahmen unserer Inhaltsrichtlinien angemessen ist", und diese Beispiele nutzen, um "umfassendere Verbesserungen an den Systemen zu entwickeln, von denen einige bereits eingeführt wurden."

Einige Suchanfragen werden für KI gesperrt

Google ist also dabei, die KI-Übersichten für bestimmte Suchanfragen manuell zu deaktivieren. Deshalb sehen die Nutzer so viele von ihnen kurz nach der Veröffentlichung in sozialen Netzwerken wieder verschwinden.

Beitrag von @reckless1280

Auf Threads ansehen

Es ist eine seltsame Situation, da Google die KI-Übersichten bereits seit einem Jahr testet - die Funktion wurde im Mai 2023 als "Search Generative Experience" in der Beta-Version eingeführt - und CEO Sundar Pichai sagte, dass das Unternehmen in dieser Zeit über eine Milliarde Suchanfragen bearbeitet hat.

Ist der Ausgabestopp schuld?

Pichai hatte zudem bestätigt, dass Google die Kosten für die Bereitstellung von KI-Antworten seither um 80 Prozent gesenkt hat, "angetrieben durch Hardware, Engineering und technische Durchbrüche". Es scheint, dass diese Art der Optimierung zu früh erfolgt ist, nämlich noch bevor die Technologie dazu wirklich bereit war.

Google hat große Pläne für die KI Overviews. Was die KI derzeit leistet, ist nur ein winziger Teil dessen, was das Unternehmen letzte Woche angekündigt hat. Mehrstufige Schlussfolgerungen für komplexe Suchanfragen, die Möglichkeit, eine KI-organisierte Ergebnisseite zu generieren, Videosuche in Google Lens - es gibt von Google eine Menge Ambitionen, aber allem Anschein nach noch keinen Plan, wie man die Qualität absichern kann.

In der Branche sieht man nun da überaus kritisch, wie The Verge erfahren hat. "Ein Unternehmen, das einst dafür bekannt war, an der Spitze zu stehen und qualitativ hochwertige Produkte zu liefern, ist jetzt für minderwertige Produkte bekannt, die als Meme gehandelt werden", erklärte daher nun ein KI-Gründer, der anonym bleiben möchte, gegenüber The Verge.


Siehe auch: