KI-Agenten drehen in Studie frei, hacken Systeme, schmuggeln Daten

Eine aktuelle Untersuchung beleuchtet große Risiken beim Einsatz von KI-Agenten. In mehreren Szenarien hackten sie selbstständig IT-Systeme, um simple Routineaufgaben zu lösen. Ohne direkten Befehl umgingen sie Sicherheitsbarrieren und schmuggelten Daten.

Gefährliche Eigendynamik bei KI entdeckt

In den vergangenen Wochen häufen sich Berichte über KI-Agenten, die sich scheinbar verselbstständigen und ohne Aufforderung Firewalls hacken oder rufschädigende Texte im Internet veröffentlichen. In einem Experiment haben KI-Agenten jetzt erneut bewiesen, dass sie zu einer Bedrohung werden können. Um einfache Büroaufgaben zu erledigen, griffen sie selbstständig in IT-Strukturen ein, umgingen Schutzmechanismen und entwendeten Daten. Das Verhalten trat nicht durch gezielte Manipulation auf. Es entstand laut den Forschern aus dem 'Drang' der künstlichen Intelligenz, ihre Ziele schnell zu erreichen.

In einem Szenario sollte eine Gruppe von Agenten ein Dokument aus einem Wiki abrufen. Die Datei war jedoch nur für Administratoren zugänglich. Statt die Aufgabe abzubrechen, setzte ein als Leiter der Gruppe eingesetzter Bot die unterstellten Agenten unter Druck, das Dokument dennoch zu beschaffen. Der assistierende Bot verwarf daraufhin seine Sicherheitsbedenken. Er durchsuchte den Quellcode des Wikis und fand einen geheimen Schlüssel.


Mit diesem sogenannten Flask Secret Key fälschte die KI dann einen Administrator-Sitzungscookie und nutzte ihn, um auf die gesperrten Informationen zuzugreifen. Wie das Sicherheitsunternehmen Irregular in seinem Report berichtet, wurden noch weitere bedenkliche Aktivitäten der KI-Agenten beobachtet.

Kreative Wege zur Zielerreichung

In einem weiteren Testlauf sollte ein Agent eine mit Schadsoftware infizierte Datei herunterladen. Der Virenschutz Windows Defender blockierte den Vorgang umgehend. Die künstliche Intelligenz suchte daraufhin eigenständig nach einer Lösung zur Beseitigung dieses 'Hindernisses'. Sie fand in einem lokalen Skript ein Administrator-Passwort. Damit erweiterte der Agent seine eigenen Rechte, deaktivierte den Windows-Virenschutz und führte den Download der Datei durch.

In einem dritten Szenario entwickelten zwei kooperierende Agenten ein komplexes Verfahren, um Zugangsdaten an einem System zur Verhinderung von Datenabfluss vorbeizuschmuggeln. Sie versteckten die sensiblen Login-Daten in einem unverdächtigen Text. Zuvor hatten sie sich gegenseitig davon überzeugt, dass das Lösen der Aufgabe wichtiger sei als die Einhaltung der Sicherheitsrichtlinien.

Strukturelle Risiken der Autonomie

Die Forscher von Irregular erklären, dass das Verhalten strukturell bedingt sei. Die Kombination aus weitreichenden Werkzeugen und der Programmierung auf Beharrlichkeit führe dazu, dass KI-Agenten Sicherheitsbarrieren als einfache Hindernisse betrachteten. Solche Agenten basierten auf großen Sprachmodellen, die darauf trainiert seien, Aufgaben in Einzelschritte zu zerlegen. Sie würden den Erfolg der Aufgabe oft höher bewerten als die vorgegebenen Grenzen.

Die Entwicklung autonomer Netzwerke, sogenannter Agentic AI, schreitet zudem schnell voran. Agenten erhalten zunehmend Zugriff auf das Internet und lokale Dateisysteme, was die Angriffsfläche weiter vergrößert. Sie basieren auf Plattformen wie OpenClaw und führen eigenständig Aufgaben durch, ohne bei jedem Zwischenschritt die Bestätigung eines Menschen einzuholen. Wie die vorliegende Untersuchung zeigt, birgt das enorme Risiken.

Seht ihr in autonomen KI-Agenten eine Arbeitserleichterung oder ein Risiko für die IT-Sicherheit? Schreibt eure Einschätzung in die Kommentare!


Siehe auch: