Coding-KI löscht gesamte Webseite + 2,5 Jahre an Daten in Sekunden

Erneut hat ein KI-Agent eine komplette Datenbank samt Backups gelöscht. Der Vorfall zeigt einmal mehr drastisch die Risiken auf, wenn man künstlicher Intelligenz zu viel Kontrolle über kritische Infrastruktur überlässt. Immerhin gab es eine Art Happy End.

KI löscht komplette Datenbank

Immer wieder gibt es Berichte darüber, wie KI-Agenten gesamte Partitionen von Nutzern und sogar komplette Firmendatenbanken ohne Absicht der Anwender löschen. Der Einsatz von künstlicher Intelligenz in der Softwareentwicklung verspricht zwar Effizienz, birgt jedoch erhebliche Gefahren, wie solche Vorfälle zeigen. Das musste jetzt auch der Entwickler der Webseite DataTalks.Club erfahren.

Bei der Migration eines anderen Projekts auf die Amazon Web Services, bei der das Tool Terraform half, zerstörte Claude Code von Anthropic unbeabsichtigt die gesamte Produktionsumgebung. Betroffen waren Daten aus zweieinhalb Jahren.

Folgenschwere Sparmaßnahme

Der Fehler entstand durch eine Verkettung unglücklicher Umstände. Der Agent führte den Befehl 'terraform destroy' aus, um lediglich doppelt erstellte Ressourcen zu bereinigen. Da jedoch eine wichtige Statusdatei fehlte und durch eine veraltete Version ersetzt wurde, interpretierte die Software die Anweisung als Befehl zur Löschung der gesamten Infrastruktur. Das schloss neben der eigentlichen Datenbank auch die automatisierten Snapshots ein, die als Sicherheitskopie dienen sollten.

Wie der betroffene Entwickler Alexey Grigorev darlegt, war der Auslöser der Katastrophe ein banaler Sparversuch. Um monatliche Kosten von lediglich fünf bis zehn Euro einzusparen, verzichtete er auf separate Umgebungen für die beiden Projekte. Anstatt eine saubere Trennung vorzunehmen, entschied er sich, die bestehende Infrastruktur von DataTalks.Club zu nutzen. Erschwerend kam ein kürzlicher Computerwechsel hinzu, wodurch lokale Dateien fehlten.

Aufwendige Rettung

Erst nach einem Upgrade auf den teureren Support und einer intensiven Zusammenarbeit mit dem Kundendienst tauchte ein Snapshot auf Amazon-Seite auf. Der gesamte Ausfall der Webseite dauerte rund 24 Stunden. Als Konsequenz aus dem beinahe totalen Datenverlust wurden nun strikte Sicherheitsvorkehrungen implementiert. Agenten dürfen bei Grigorev zwar noch Pläne erstellen, aber keine Befehle mehr selbstständig ausführen. Zudem lagern Sicherheitskopien jetzt unabhängig von der Infrastrukturverwaltung mit einer Versionierung. Ein expliziter Schutz vor versehentlichem Löschen ist überall aktiv.

Der Vorfall unterstreicht einmal mehr die Notwendigkeit, Werkzeuge in kritischen Produktionsumgebungen niemals unbeaufsichtigt agieren zu lassen. Zudem müssen Backups immer logisch und physisch getrennt sein. Andernfalls kann ein einziger fehlerhafter Befehl jahrelange Arbeit in Sekunden vernichten.

Was haltet ihr von diesem Vorfall? Würdet ihr einer künstlichen Intelligenz weitreichende Rechte in eurer Infrastruktur einräumen? Schreibt uns eure Meinung gerne in die Kommentare!


Siehe auch: