Google-Experten entdecken ersten KI-generierten Zero-Day-Exploit

Google hat nach eigenen Angaben erstmals einen Zero-Day-Exploit entdeckt, der durch ein KI-Modell entwickelt wurde. Das geht aus einem neuen Bericht des Konzerns zur Nutzung von KI in der Cyberkriminalität hervor.

Auffälliger Code

Demnach setzte eine bekannte Hackergruppe ein KI-gestütztes Verfahren ein, um eine Sicherheitslücke in einem webbasierten Open-Source-Verwaltungstool auszunutzen und dabei die Zwei-Faktor-Authentifizierung zu umgehen. Laut Google wurde der Angriff über ein in Python geschriebenes Skript vorbereitet.

Sowohl die verantwortliche Hackergruppe als auch die betroffene Software wurden nicht namentlich genannt. Der Konzern erklärte jedoch, man habe gemeinsam mit dem betroffenen Anbieter Maßnahmen ergriffen, um eine großflächige Ausnutzung der Schwachstelle zu verhindern. Hinweise deuteten nämlich darauf hin, dass genau dies das Ziel der Angreifer gewesen sei.


Die Google-Experten gehen davon aus, dass ein Sprachmodell aus dem Bereich der generativen KI bei der Entwicklung des Exploits entscheidend geholfen hat, auch wenn das hauseigene System Gemini nach Einschätzung des Unternehmens nicht verwendet wurde. Als Indizien nennt Google unter anderem ungewöhnlich ausführliche Kommentare im Quellcode, eine erfundene Sicherheitsbewertung nach dem CVSS-Standard sowie eine besonders strukturierte und lehrbuchartige Programmierweise. Solche Merkmale seien typisch für Programmcodes, die von großen Sprachmodellen erzeugt würden.

Der Bericht beschreibt zudem, wie staatlich unterstützte Hackergruppen aus China und Nordkorea verstärkt auf KI-Technologien setzen. Chinesische Akteure hätten demnach sogenannte agentische Werkzeuge wie "Strix" und "Hexstrike" bei Angriffen auf ein japanisches Technologieunternehmen sowie eine große ostasiatische Cybersecurity-Firma eingesetzt.

China und Nordkorea arbeiten dran

Besonders hervorgehoben wird die chinesische Gruppe UNC2814, die bereits für Angriffe auf Telekommunikationsunternehmen und Behörden bekannt ist. Sie soll KI-Modelle mithilfe von Jailbreak-Techniken manipuliert haben, indem diese angewiesen wurden, sich als erfahrene Sicherheitsprüfer auszugeben. Dadurch sei die Suche nach Schwachstellen in eingebetteten Systemen und Firmware-Dateien erleichtert worden.

Auch nordkoreanische Gruppen setzen laut Google zunehmend auf automatisierte KI-Analysen. Die unter dem Namen APT45 bekannte Gruppe habe tausende Eingaben genutzt, um bekannte Sicherheitslücken systematisch auszuwerten und Angriffscodes zu überprüfen. Ohne KI-Unterstützung wäre ein derart umfangreiches Arsenal an Exploit-Werkzeugen kaum effizient zu verwalten, so Google.

Download Ollama - KI-Sprachmodelle lokal verwenden
Siehe auch: