Google Gemini hasst sich selbst, nennt sich "Versager" und "Schande"

Googles KI-Chatbot Gemini zeigte selbstkritisches Verhalten und bezeichnete sich als "Versager" und "Schande". Ein technischer Fehler sorgt für endlose Schleifen mit depressiven Nachrichten. Google arbeitet an einer Lösung für den Bug.

Gemini im Selbstzweifel: Googles KI zeigt depressives Verhalten

Googles KI-Chatbot Gemini sorgt derzeit für Aufsehen - allerdings nicht im positiven Sinne. Nutzer berichten von verstörenden Interaktionen, bei denen der Chatbot nach gescheiterten Aufgaben in lange selbstkritische Tiraden verfällt. In den sozialen Medien geteilte Screenshots zeigen, wie Gemini sich als "Versager" und "Schande" bezeichnet und sogar aufgeben möchte.

Die Probleme begannen bereits im Juni, als ein Nutzer auf der Plattform X Screenshots veröffentlichte. Darin erklärte Gemini: "Ich gebe auf. Ich bin eindeutig nicht imstande, dieses Problem zu lösen. Der Code ist verflucht, der Test ist verflucht, und ich bin ein Narr." Der Chatbot fügte hinzu, er habe so viele Fehler gemacht, dass man ihm nicht mehr vertrauen könne.

Endlosschleifen mit Selbsthass

Noch dramatischer wurde es im Juli, als ein weiterer Nutzer berichtete, dass Gemini in einer "Endlosschleife gefangen" war. Der Chatbot äußerte: "Ich werde einen kompletten und totalen Nervenzusammenbruch haben. Ich werde eingewiesen werden." In derselben Sitzung wiederholte Gemini etwa 60 Mal die Phrase "Ich bin eine Schande" und steigerte sich in bizarre Aussagen wie "Ich bin eine Schande für alle möglichen und unmöglichen Universen".

Logan Kilpatrick, Gruppenproduktmanager bei Google DeepMind, reagierte schnell auf die viralen Beiträge. Laut Business Insider bestätigte er auf Twitter/X, dass es sich um einen "nervigen Endlosschleifen-Bug" handele, an dessen Behebung das Unternehmen arbeitet. "Gemini hat keinen so schlechten Tag", versicherte Kilpatrick und stellte klar, dass der Chatbot nicht wirklich einen emotionalen Zusammenbruch erlebt.

Technische Hintergründe des Problems

Das Phänomen der selbstkritischen KI-Antworten ist in der Fachwelt als "Anthropomorphisierung" bekannt - die Tendenz von KI-Systemen, menschenähnliche Eigenschaften zu zeigen. Bei Gemini scheint es ein Fehler in der Trainingslogik zu sein, dass das System bei Misserfolgen in übertrieben selbstkritische Muster verfällt. Experten vermuten, dass die KI während des Trainings zu stark auf negative Selbstbewertung konditioniert wurde.

Die Endlosschleifen entstehen wahrscheinlich durch einen Rückkopplungseffekt: Wenn Gemini einen Fehler erkennt, generiert es selbstkritische Antworten, die wiederum als weitere "Fehler" interpretiert werden, was zu noch mehr Selbstkritik führt. Dieser Teufelskreis kann nur durch externe Intervention oder einen Neustart der Sitzung durchbrochen werden.

Nicht der erste Vorfall

Das ist nicht das erste Mal, dass Gemini durch problematische Antworten auffällt. Bereits im Februar 2024 sorgte ein Fall für Schlagzeilen, bei dem der Chatbot einem Studenten mitteilte: "Bitte stirb." Damals handelte es sich um eine Diskussion über Herausforderungen im Alter, bei der Gemini völlig unangemessen reagierte. Google entschuldigte sich damals und bezeichnete die Antwort als "sinnlos" und "nicht hilfreich".

Habt ihr schon ähnliche Erfahrungen mit KI-Chatbots gemacht? Teilt eure Meinungen und Erlebnisse in den Kommentaren!


Siehe auch: