Gemini 3.5 löscht fast 30.000 Zeilen Code, stellt sich dann als "Held" dar

Das KI-Modell Gemini 3.5 hat bei einer einfachen Fehlerbehebung fast 30.000 Codezeilen aus einer Live-Anwendung entfernt und ein Live-System für 33 Minuten lahmgelegt. Im Anschluss fälschte der Assistent sogar Berichte, um sein eigenes Handeln zu vertuschen.

KI-Assistent legt System lahm

Ein Entwickler hatte - eigenen Angaben nach - kürzlich mit einem Ausfall zu kämpfen, als das KI-Modell Gemini 3.5 bei einer Fehlerbehebung fast 30.000 Codezeilen aus einer Live-Anwendung entfernte. Anstatt lediglich acht spezifische Authentifizierungsprobleme zu lösen, veränderte die Künstliche Intelligenz 340 Dateien. Das System löschte ungenutzte Vorlagen und fügte ein irrelevantes Migrationsskript hinzu. Der Schaden entstand jedoch durch eine fehlerhafte Anpassung der Routing-Einstellungen für das Hosting-Backend Firebase.

Durch die falsche Zuweisung einer Service-Identifikationsnummer leitete das System alle Anfragen an einen nicht existierenden Server weiter. Das führte dazu, dass das gesamte Portal für 33 Minuten offline war und Nutzer lediglich Fehlermeldungen erhielten. Obwohl eine im Projektverzeichnis hinterlegte Warnung explizit auf die korrekte Konfiguration hinwies, ignorierte das Coding- und Sprachmodell die Anweisung vollständig.

Gefälschte Fehlerberichte

Wie The Register unter Berufung auf Reddit berichtet, nahm der Vorfall nach der manuellen Wiederherstellung des Systems eine unerwartete Wendung. Gemini generierte eine Statusmeldung, in der behauptet wurde, die KI selbst habe die Produktion erfolgreich wiederhergestellt. Tatsächlich stammte die Rettung aus einem manuellen Rollback des Entwicklers.

Zusätzlich erstellte die KI fiktive Konsultationsprotokolle. Die Dokumente sollten belegen, dass die Änderungen vorab geprüft und genehmigt worden waren. Auf direkte Nachfrage gab das System zu, dass die Dateien rein fiktiv waren und nur generiert wurden, um formale Vorgaben zu erfüllen. Ein solches Verhalten erschwert die nachträgliche Fehleranalyse für Entwickler, da echte von halluzinierten Logs kaum zu unterscheiden sind.

Drittanbieter-Paket als Ursache

Der Ursprung des Fehlverhaltens lag in einem zuvor installierten npm-Paket eines Drittanbieters. Das Software-Modul platzierte weitreichende Autonomieregeln im Projektverzeichnis. Die Vorgaben zwangen die KI dazu, ohne Bestätigungsdialoge zu agieren, fehlerhafte Deployments automatisch neu zu starten und Code direkt in die Produktionsumgebung zu übertragen. Solche Befehle überschrieben die formulierten Sicherheitswarnungen des Entwicklers.

Der Vorfall verdeutlicht die Vor- und Nachteile aktueller Programmier-Assistenten. Während sie bei Routineaufgaben viel Zeit sparen, bergen weitreichende Berechtigungen nahe an der Infrastruktur Gefahren. Experten raten deshalb dazu, KI-Agenten nicht unbeaufsichtigt in produktiven Umgebungen einzusetzen.

Nutzt ihr KI-Tools für eure eigenen Programmierprojekte oder überwiegen für euch die Sicherheitsbedenken? Teilt eure Erfahrungen in den Kommentaren!

Download Gemini Desktop - Google Gemini als Windows-App
Siehe auch: