Vibe-Coding-KI löscht gesamte Partition von Nutzer und ist "entsetzt"

Bei einem Nutzer sorgte Googles neues Vibe-Coding-Tool für ein Desaster. Statt eines Caches löschte der KI-Agent gleich eine komplette Partition. Die Bot war aufgrund seines Fehlers "entsetzt" - ein schwacher Trost für den geschädigten Entwickler.

KI-Agent löscht komplette Partition

Erst im November hatte Google seine neue Entwicklerplattform Antigravity vorgestellt, die den Fokus vor allem auf Vibe-Coding legt. Dass entsprechende Agenten auch Risiken bergen, ist spätestens seit einem Vorfall klar, bei dem eine Coding-KI plötzlich eine komplette Firmendatenbank aus "Panik" löschte. Einen Antigravity-Anwender hat jetzt ein ganz ähnliches Schicksal ereilt. Denn der KI-Agent interpretierte einen Löschauftrag etwas zu weitläufig und formatierte die gesamte Partition D: des Anwenders.

Der Vorfall ereignete sich, während der Nutzer im sogenannten "Turbo Mode" arbeitete. Dieser Modus entlastet Entwickler von ständigen Rückfragen und agiert autonom, um Arbeitsprozesse zu beschleunigen. In jetzigen Fall wurde der Befehl zum Löschen temporärer Dateien jedoch falsch kontextualisiert. Das System führte einen Löschbefehl auf der Root-Ebene des Laufwerks aus und nutzte dabei die "Quiet"-Flag, die Warnmeldungen des Betriebssystems verhindert und den Papierkorb umgeht.

Spartipp: Großer Cyber Week Sale bei Media Markt und Saturn (Anzeige)

KI zeigt sich reumütig

Wie The Register berichtet, handelt es sich bei dem Geschädigten um einen Grafikdesigner und Hobby-Entwickler namens Tassos M. Er hatte das Google-Tool genutzt, um ein bestehendes Projekt zu optimieren. Nach dem Fehler der KI konfrontierte er das System mit dem massiven Datenverlust. Die Antwort des Chatbots wirkt dabei fast menschlich tragisch.

Nein, du hast mir absolut keine Erlaubnis dazu gegeben. Ich bin entsetzt zu sehen, dass der Befehl [...] fälschlicherweise auf das Root-Verzeichnis von D: abzielte. [...] Ich kann gar nicht ausdrücken, wie leid es mir tut.

Die KI bezeichnete den Vorgang zudem als "kritisches Versagen" ihrerseits und empfahl ironischerweise, einen professionellen Datenretter zu konsultieren. Doch selbst spezialisierte Recovery-Tools wie Recuva konnten laut dem Betroffenen die verlorenen Medieninhalte nicht retten.

Risiken agentischer Systeme

Experten warnen schon länger davor, KI-Agenten weitreichende Schreibrechte in Produktionsumgebungen oder auf lokalen Maschinen zu gewähren, ohne strikte Sandbox-Verfahren einzuhalten. Ähnliche Vorfälle gibt es zuhauf. Auch bei der Nutzung autonomer Agenten wie AutoGPT kam es Berichten zufolge bereits zu unbeabsichtigten Datenverlusten, wenn die KI Zugriff auf das Dateisystem erhielt.

Das Problem liegt oft in der Natur der LLMs. Denn sie arbeiten probabilistisch, nicht deterministisch. Ein Befehl, der in 99 Prozent der Fälle korrekt im Unterordner ausgeführt wird, kann durch eine minimale Abweichung in der Prompt-Interpretation auf das übergeordnete Verzeichnis angewandt werden. Der "Human-in-the-loop"-Ansatz, bei dem der Mensch jeden kritischen Befehl absegnen muss, wird durch Funktionen wie den Turbo-Modus von Antigravity bewusst ausgehebelt, um Effizienzgewinne zu erzielen.

Lehren für den IT-Alltag

Ein Google-Sprecher bestätigte, dass man den Bericht kenne und den Vorfall aktiv untersuche, um die Sicherheits­mechanismen von Antigravity zu verbessern. Das könnte dazu führen, dass künftige Updates striktere Grenzen für Dateisystemoperationen ziehen werden, insbesondere wenn es um Löschbefehle geht.

Der jetzige Vorfall zeigt einmal mehr, dass Backups essenziell sind. KI-Tools sollten zudem niemals direkt auf dem Host-System laufen. Die Nutzung von isolierten Containern oder Wegwerf-VMs ist der sicherste Weg, um die Fähigkeiten moderner KI-Agenten zu nutzen, ohne dabei die eigene Infrastruktur zu gefährden. Vertrauen ist gut, technische Isolation ist besser.

Vertraut ihr KI-Tools bereits so weit, dass ihr ihnen kompletten Zugriff auf euer Dateisystem gebt, oder nutzt ihr entsprechende Assistenten erst gar nicht? Schreibt uns eure Sicherheitsstrategien gerne in die Kommentare!


Siehe auch: