Hacker arbeiten mit generativer KI:
Microsoft untersucht Vorfälle

Dass Cyberkriminelle auf generative KI-Tools und KI-Dienste zurückgreifen, um ihre Angriffe durchzuführen, ist weder neu noch überraschend. Microsoft und OpenAI haben jetzt allerdings bemerkenswerte Fakten über solche KI-gestützten Angriffe vorgelegt.

Der Einsatz von Sprachmodellen

Wie das Online-Magazin Neowin berichtet, gibt es damit nun auch erstmals offizielle Informationen darüber, wie staatlich gesponserte Hacker große Sprachmodelle (LLM: Large Language Model) für sich verwenden.

In einem Blogbeitrag kündigte Microsoft in Zusammenarbeit mit OpenAI eine neue Studie über die Nutzung der sogenannten LLMs durch Hacker an. Das Unternehmen fügte hinzu, dass der "Copilot for Security"-Dienst eingesetzt wird, um gegen diese LLM-basierten Cyber-Bedrohungen vorzugehen - also ein KI-Tool, das schädliche KI-Tools aufspüren soll. Das funktioniert auch gut.


"Im Rahmen dieses Engagements haben wir Maßnahmen ergriffen, um Vermögenswerte und Konten, die mit Bedrohungsakteuren in Verbindung stehen, zu unterbrechen, den Schutz der OpenAI LLM-Technologie und der Nutzer vor Angriffen oder Missbrauch zu verbessern und die 'Leitplanken' und Sicherheitsmechanismen um unsere Modelle herum zu gestalten", so Microsoft.

Die fraglichen Hacker-Gruppen sind in Ländern wie Russland, Nordkorea, Iran und China ansässig. Forest Blizzard ist eine der bekannten Gruppen, die mit der russischen GRU-Einheit 26165 in Verbindung gebracht wird. Laut Microsoft hat die Gruppe Organisationen ins Visier genommen, die mit den Kriegshandlungen in der Ukraine in Verbindung stehen.

Manipulation automatisiert

Microsoft behauptet nun zu wissen, dass Forest Blizzard LLMs eingesetzt hat, um Satellitenkommunikationsprotokolle, Radarbildtechnologien und "spezifische technische Parameter zu verstehen". Laut Recherche von Microsoft versucht die Gruppe zudem, Aufgaben wie die Auswahl und Manipulation von Dateien durch KI-Tools zu automatisieren.

Gruppe optimiert sich selbst durch KI

Eine weitere cyberkriminelle Gruppe, die Microsoft zufolge KI einsetzt, wird als Salmon Typhoon bezeichnet. Die in China ansässige Gruppe hat es in der Vergangenheit vor allem auf Regierungs- und US-Verteidigungsunternehmen abgesehen. Nach Angaben von Microsoft hat auch Salmon Typhoon LLMs auf verschiedene Weise eingesetzt. Dazu gehören das Auffinden von Programmierfehlern und das Übersetzen von technischen Dokumenten.

Da sich die Partnerschaft von Microsoft und OpenAI auch auf den Sicherheitsbereich erstreckt, können gemeinsam gezielter Maßnahmen ergriffen werden, wenn bekannte und neue Bedrohungsakteure auftauchen. Microsoft Threat Intelligence verfolgt dabei mehr als 300 einzelne Bedrohungsakteure, darunter 160 nationalstaatliche Akteure, 50 Ransomware-Gruppen und viele andere.



Siehe auch: