Amazon-KI sollte kleinen AWS-Bug fixen, schoss das ganze System ab

Eigentlich sollte der AWS-Bot Kiro nur eine kleine Korrektur vor­neh­men, doch stattdessen löschte die KI eine komplette Server-Um­ge­bung. Während interne Quellen die autonomen Agenten kritisieren, weist Amazon die Verantwortung der Technik zurück.

KI-Bot legt AWS-Systeme lahm

Mitte Dezember 2025 ereignete sich in einer chinesischen Region von Amazon Web Services (AWS) ein gravierender Vorfall. Ein interner KI-Assistent namens Kiro verursachte einen 13-stündigen Systemausfall. Der autonome Bot hatte den Auftrag, eine routinemäßige Korrektur an einem System zur Kostenanalyse durchzuführen, löschte dabei jedoch unerwartet die gesamte Umgebung.

Das Problem entstand durch die Entscheidung des Systems, die Infrastruktur komplett neu zu erstellen, anstatt den Fehler punktuell zu beheben. Da die zuständigen Entwickler dem Bot weitreichende Administratorrechte gewährt hatten, umging das Programm die üblichen Sicherheitsmechanismen. Ohne menschliche Zwischenprüfung führte das zu einer Kettenreaktion, die den Dienstbetrieb in der Region massiv beeinträchtigte.

Wiederkehrende Probleme

Laut einem Bericht der Financial Times handelt es sich hierbei nicht um ein isoliertes Ereignis. Interne Quellen gaben an, dass KI-Tools in den Monaten vor dem Absturz bereits mehrfach Störungen verursacht hatten. Mitarbeiter kritisierten, dass die KI-Tools der Gruppe als Erweiterung eines Anwenders behandelt und mit denselben Berechtigungen ausgestattet würden.


Technisch basiert Kiro auf einem großen Sprachmodell (LLM), das in einen agentischen Workflow eingebunden ist. Solche Systeme sollen komplexe Aufgaben in Teilschritte zerlegen und eigenständig ausführen. In der IT-Branche gelten diese autonomen Agenten als nächster großer Schritt der Automatisierung, bergen jedoch Risiken bei der Interpretation ungenauer Anweisungen.

Amazon sieht Schuld beim Menschen

Der Cloud-Marktführer weist die Verantwortung der künstlichen Intelligenz jedoch zurück. Ein Sprecher betonte, dass die Ursache in einer fehlerhaften Konfiguration der Zugriffskontrollen lag. Ein menschlicher Entwickler hätte mit denselben überhöhten Rechten identischen Schaden anrichten können. Zudem gebe es keine Beweise dafür, dass Fehler bei KI-Tools häufiger aufträten.

Trotz der offiziellen Entwarnung offenbart der Vorfall Spannungen innerhalb des Konzerns. Die Führungsebene drängt massiv auf den Einsatz von KI, um die Produktivität zu steigern. Das Ziel lautet, dass 80 Prozent der Entwickler regelmäßig Code-Assistenten wie Amazon Q nutzen. Kritiker sehen durch diesen Druck hingegen die Sorgfaltspflicht gefährdet.

Strengere Regeln

Als direkte Konsequenz aus dem China-Vorfall hat AWS die Sicherheitsrichtlinien verschärft. Autonome Agenten dürfen kritische Infrastruktur-Änderungen nun nicht mehr ohne explizite Freigabe durchführen. Zudem müssen Entwickler sicherstellen, dass KI-Tools nur die minimal notwendigen Berechtigungen erhalten, um das Prinzip der geringsten Privilegien konsequent durchzusetzen.

Wie steht ihr zum Einsatz autonomer KI-Agenten in kritischen Systemen? Würdet ihr einem Bot Admin-Rechte geben oder vertraut ihr lieber auf menschliche Kontrolle? Schreibt es uns in die Kommentare.


Siehe auch: