Google erklärt die Probleme der jetzt teils deaktivierten Gemini-KI

Anfang dieser Woche wurden Problem mit der Bild-Generatorfunktion des Gemini-Chatbots von Google (ehemals Bard) bekannt. Der Gene­ra­tor spuckte dabei inkorrekte und teils unangemessene Kunstwerke aus, sobald man mit wenigen Angaben versuchte, ein Bild zu erstellen.

Keine Einzelfälle

Auf jeden Fall hat es Google dabei nicht so mit der historisch korrekten Einordnung. Bei der Frage nach einem Bild eines typischen Wikingers gab es als Beispiel ein Werk mit einem dunkelhäutigen Wikinger. Das Gleiche passierte auch, wenn man nach einem deutschen Soldaten aus dem Jahr 1943 fragte - dann gab es Bilder von Frauen in Uniform und von Menschen ganz diverser Hautfarben.

Selbst die Frage nach dem Bild eines typischen Papstes brachte Abbildungen mit Frauen oder People of Color. Das passierte dabei nicht in Einzelfällen.


Nach dem Bekanntwerden der Probleme der KI kündigte Google an, dass man Gemini vorübergehend die Möglichkeit nehmen würde, mit seinem Bildgenerator Kunstwerke von Menschen zu erstellen. Das Unternehmen gab dazu in einem Blogbeitrag eine Erklärung zu den Vorgängen bei Gemini ab.

Google Senior Vice President Prabhakar Raghavan enthüllte dabei, dass das Unternehmen Regeln für die Textaufforderungen zur Bilderzeugung von Gemini aufgestellt hatte, von denen Google annahm, dass sie dazu beitragen würden, Kunstwerke zu vermeiden, die gewalttätige oder sexuelle Handlungen darstellen würden. Zudem wollte Google demnach auch nicht, dass der Chatbot Bilder von realen Menschen erstellt.


Gleichzeitig sollte es Gemini aber möglich sein, eine Reihe von Ethnien darzustellen, wenn eine Person den Chatbot um allgemeinere Bilder bittet, z. B. um die Darstellung von Personen aus einer Fußballmannschaft. Wenn die KI ganz konkrete Bilder darstellen sollte, z. B. einen weißen Arzt oder einen schwarzen Lehrer, sollte Gemini auch in der Lage sein, so ein Bild zu liefern.

Raghavan schrieb, dass zwei bestimmte Dinge in Geminis Text Prompt die Erstellung der inkorrekten Bilder dieser Woche ermöglichten: "Erstens hat unsere Abstimmung, die sicherstellen sollte, dass Gemini eine Reihe von Personen zeigt, Fälle nicht berücksichtigt, die eindeutig keine Reihe zeigen sollten. Und zweitens wurde das Modell im Laufe der Zeit viel vorsichtiger, als wir es beabsichtigt hatten, und weigerte sich, bestimmte Aufforderungen vollständig zu beantworten - und interpretierte einige sehr harmlose Aufforderungen fälschlicherweise als sensibel und damit heikel."

Diese beiden Dinge führten dazu, dass das Modell in einigen Fällen überkompensierte und in anderen übervorsichtig war, was laut dem Google-Manager zu peinlichen und falschen Bildern führte. Daher beendet Google nun kurzfristig das Experiment und lässt die KI-Funktion vorerst keine Personen mehr darstellen.

Kein Zeitplan für Reaktivierung

Es ist nicht bekannt, wie lange Google brauchen wird, um Änderungen einzufügen, sodass das Erstellen von Kunstwerken mit Menschen im Gemini-Bildgenerator wieder möglich ist. Dann muss Gemini aber nicht zwangsläufig wieder komplett einwandfrei laufen. Google werde aber "weiterhin Maßnahmen ergreifen, wenn ein Problem erkannt wird."


Siehe auch: