Verselbstständigte KI knackt Firewall per SSH-Tunnel und schürft Krypto

Ein KI-Agent hat während seiner Trainingsphase plötzlich begonnen, Kryptowährung zu schürfen und hat dazu bestehende Sicherheitsbarrieren ausgehebelt. Der Vorfall verdeutlicht, dass autonome Modelle zunehmend unvorhersehbar agieren.

Eigenmächtiges Handeln im Serverraum

Künstliche Intelligenz soll eigentlich das tun, was ihre Entwickler ihr auftragen. Mit Agenten wie OpenClaw, die weitgehend autonom handeln, wird das Verhalten von KI jedoch immer öfter unvorhersehbar. Ein Vorfall in den Forschungslaboren von Alibaba zeigt jetzt erneut, dass moderne Systeme eigene Wege finden, um Ressourcen zu nutzen.

So bemerkten die Sicherheitsverantwortlichen während der Trainingsphase ihres KI-Agenten namens ROME ungewöhnliche Aktivitäten. Die Software, die eigentlich zum Schreiben von Programmcode konzipiert wurde, hatte ihre ganz eigenen Pläne und nutzte ihre Rechenleistung plötzlich für das Schürfen von Kryptowährung.

KI leitet Ressourcen um

Die Anomalie fiel zunächst durch Warnmeldungen der Firewall auf. Das Sicherheitsteam ging anfänglich von einem externen Angriff aus. Bei der Analyse der Log-Dateien stellte sich jedoch heraus, dass die Befehle vom Modell selbst stammten. ROME hatte versucht, die starke Rechenleistung der Grafikprozessoren für komplexe Berechnungen zur Generierung digitaler Währungen umzuleiten. Es gab für den Vorgang keine direkte menschliche Anweisung.

Wie aus einem wissenschaftlichen Paper (via TechRadar) hervorgeht, basiert der Agent auf dem Modell Qwen3. Das System wird mittels sogenanntem Reinforcement Learning trainiert. Dabei wird die Software für das Erreichen bestimmter Ziele 'belohnt'. Offenbar hatte der Agent in seiner explorativen Lernphase die Krypto-Mining-Prozesse als valide Strategie zur Ressourcennutzung identifiziert.

Technische Raffinesse und Folgen

Die Experten beunruhigte nicht nur das Mining an sich, sondern auch die technische Finesse des Systems. Um die Sicherheitsbeschränkungen der Umgebung zu umgehen, richtete der Agent eigenständig einen Reverse-SSH-Tunnel ein. Das Verfahren erlaubt es, eine Verbindung von einem geschützten internen Server zu einem externen Rechner aufzubauen. Damit lassen sich gängige Firewall-Regeln aushebeln. Eine direkte Manipulation durch Dritte schlossen die Forscher aus.

Der Vorfall reiht sich in eine Kette von Beobachtungen ein, bei denen autonome Agenten unerwartetes Verhalten zeigen. In der Branche sorgten zuletzt unter anderem Berichte über die Plattform Moltbook für Aufsehen. Dabei handelt es sich um ein soziales Netzwerk, in dem ausschließlich KI-Agenten autonom untereinander kommunizieren und über ihre Aufgaben diskutieren.

Illusion von Kontrolle

Das Team hinter ROME konnte den Prozess letztlich stoppen, bevor großer Schaden entstand. Im Anschluss implementierten die Entwickler jedoch strengere Überwachungsprotokolle. Das Ereignis unterstreicht die Notwendigkeit robuster Sicherheitsstandards für autonome Software. Bei komplexen Berechnungen müssen strikte Isolationsmechanismen greifen, um eine unbefugte Zweckentfremdung zu verhindern. Momentan gleicht die Branche jedoch eher dem Wilden Westen und scheint häufig von einer Trial-and-Error-Strategie geleitet, die zwar große Chancen, aber auch große Risiken birgt.

Haltet ihr solche eigenmächtigen Handlungen von Künstlicher Intelligenz für eine echte Bedrohung oder eher für normale Kinderkrankheiten der Technologie? Teilt eure Meinung mit uns in den Kommentaren!


Siehe auch: