Angriffe auf Hyperspeed: Kriminelle nutzen KI-Systeme längst voll aus

Während viele Unternehmen noch überlegen, wie sie generative Künstliche Intelligenz sinnvoll einsetzen können, haben Kriminelle die Technologie längst für ihre Zwecke entdeckt. Vor allem für den Datendiebstahl werden KI-Dienste genutzt.

Nicht neu, nur heftiger

Die modernen KI-Systeme eröffnen keine grundlegend neuen Wege, mit denen Kriminelle ihren Taten nachgehen können. Ein besonders gravierendes Problem ist allerdings die Geschwindigkeit, mit der aktuell immer neue KI-Anwendungen auf den Markt kommen - oft ohne ausreichende Sicherheitsvorkehrungen. "Es ist unfair, dass uns KI in jedes Produkt gedrückt wird, obwohl sie neue Risiken schafft", warnte Alex Delamotte vom Sicherheitsunternehmen SentinelOne laut eines Berichts der Washington Post.

Tests zeigen, wie einfach Angreifer KI-gestützte Assistenten manipulieren können. So gelang es Experten der NCC Group, ein Programmier-Tool dazu zu bringen, sensible Firmendaten wie Datenbanken oder Quellcodes preiszugeben. "So fahrlässig mit Sicherheit waren wir noch nie", erklärte der Security-Analyst Dave Brauchler.


Im August wurde erstmals ein kombinierter Angriff bekannt, bei dem klassische Supply-Chain-Techniken mit KI-Manipulationen verknüpft wurden. Hacker schleusten Schadcode in die Plattform Nx ein, die weltweit zum Management von Code-Repositories genutzt wird. Hunderttausende Nutzer luden daraufhin infizierte Software herunter. Das Besondere: Die Schadsoftware griff zusätzlich auf lokal installierte KI-Werkzeuge wie die von Google oder Anthropic zu, und ließ diese nach Passwörtern, Krypto-Wallets und vertraulichen Dateien suchen. Über tausend Rechner sendeten Daten an die Angreifer zurück.

Agenten sind ein Problem

Noch gefährlicher wird die Lage durch sogenannte "agentische KI". Solche Systeme können eigenständig Transaktionen durchführen oder Entscheidungen treffen. Sicherheitsforscher demonstrierten etwa, wie sich ein KI-gestützter Browser über eine gefälschte Mail dazu bringen ließ, eine Uhr in einem Fake-Shop zu kaufen.

Auch Ransomware-Kampagnen lassen sich mittlerweile vollständig durch KI steuern. Das reicht vom Auffinden verwundbarer Systeme über den Datenklau bis zur Ermittlung der passenden Lösegeldforderung. Zudem setzen Angreifer zunehmend KI ein, um bislang unbekannte Sicherheitslücken aufzuspüren oder automatisiert mit den Opfern zu kommunizieren.

Fachleute warnen vor einer neuen Dimension der Bedrohung: Wenn Schadsoftware und Abwehr-KI miteinander interagieren, könnten Cyberangriffe künftig kaum noch kontrollierbar sein. "Nächstes Jahr wird KI zur neuen Insider-Bedrohung", prognostiziert Adam Meyers vom Sicherheitsunternehmen CrowdStrike.

Siehe auch: