Übersehen mit anderen Methoden:
Erste 0-Day-Lücke mit KI entdeckt

Googles Project Zero und DeepMind haben mit ihrer KI "Big Sleep" eine bisher unbekannte Sicherheitslücke in SQLite aufgedeckt. Dies markiert einen wichtigen Schritt in der KI-gestützten Schwachstellenforschung und könnte die Cybersicherheit maßgeblich beeinflussen.

KI entdeckt kritische Sicherheitslücke

Eine künstliche Intelligenz hat laut Google erstmals eine bisher unbekannte und ausnutzbare Zero-Day-Sicherheitslücke in weitverbreiteter Software entdeckt. Das KI-System mit dem Namen "Big Sleep", eine Zusammenarbeit zwischen Googles Project Zero und DeepMind, fand eine kritische Schwachstelle im Open-Source-Datenbanksystem SQLite.

Bei der Sicherheitslücke handelt es sich um einen ausnützbaren "Stack-Buffer-Underflow", der potenziell zu Abstürzen oder sogar zur Ausführung von beliebigem Code führen könnte. Die Schwachstelle wurde in einem frühen Stadium entdeckt, noch bevor sie in einer offiziellen Version von SQLite auftauchte. Das Entwicklerteam von SQLite konnte das Problem dank der schnellen Meldung am selben Tag beheben.

Wir glauben, dass dies das erste öffentliche Beispiel für einen KI-Agenten ist, der ein bisher unbekanntes, ausnutzbares Speicher-Sicherheitsproblem in einer weitverbreiteten, realen Software findet.

Besonders bemerkenswert ist laut dem Team, dass die Schwachstelle durch herkömmliche Methoden wie Fuzzing nicht entdeckt wurde. Fuzzing ist eine automatisierte Testmethode, bei der Software mit zufälligen oder ungültigen Eingabedaten gefüttert wird, um Schwachstellen und Sicherheitslücken aufzudecken.

Big Sleep baut auf dem früheren Project Naptime auf und nutzt große Sprachmodelle (LLMs), um den Workflow menschlicher Sicherheitsforscher nachzuahmen. Wie The Register berichtet, trug das Team aktuelle Commits aus dem SQLite-Repository zusammen. Dem KI-Agenten wurde dann sowohl die Commit-Nachricht als auch unterschiedliche Versionen des Codes zur Verfügung gestellt. Anschließend wurde der Agent beauftragt, das aktuelle Repository nach verwandten Problemen zu durchsuchen, die möglicherweise bisher nicht behoben wurden. Das auf Gemini 1.5 Pro basierende LLM konnte schließlich den Fehler aufspüren.

Potenzial und Herausforderungen

Google betont, dass sich das Projekt noch in einem experimentellen Stadium befindet. Dennoch sehen die Forscher großes Potenzial in der KI-gestützten Schwachstellensuche. Sie hoffen, dass dieser Ansatz in Zukunft Sicherheitsexperten dabei helfen kann, auch solche Bugs zu finden, die für herkömmliche Methoden schwer oder unmöglich zu entdecken sind.

Experten sehen die Entwicklung als vielversprechenden Schritt in Richtung proaktiver Cybersicherheit. Die Fähigkeit von KI, komplexe Codebasen zu analysieren und subtile Schwachstellen aufzudecken, könnte Entwicklern einen entscheidenden Vorsprung vor potenziellen Angreifern verschaffen.

Kritische Stimmen

Allerdings gibt es auch kritische Stimmen. Einige Sicherheitsforscher weisen darauf hin, dass ähnliche Erfolge bereits früher erzielt wurden, wenn auch in kleinerem Maßstab. So berichtete der Sicherheitsforscher Alfredo Ortega, dass er bereits im April 2024 mithilfe von LLMs eine Zero-Day-Lücke in OpenBSD entdeckt habe.

Unabhängig von der Diskussion um den "Weltrekord" zeigt die Entdeckung das immense Potenzial von KI in der Cybersicherheit. In einer Zeit, in der Cyberangriffe immer ausgefeilter werden, könnte die KI-gestützte Schwachstellensuche zu einem wichtigen Werkzeug für Sicherheitsexperten werden.

Bedeutung für SQLite und die Softwareindustrie

SQLite ist eine der am häufigsten eingesetzten Datenbanken weltweit und findet sich in zahlreichen Anwendungen und Betriebssystemen. Die Entdeckung einer solch kritischen Schwachstelle unterstreicht die Bedeutung kontinuierlicher Sicherheitsüberprüfungen.

Was denkt ihr über diese Entwicklung? Seht ihr KI eher als Chance oder als Risiko für die Cybersicherheit? Teilt eure Gedanken in den Kommentaren - wir sind gespannt auf eure Einschätzungen!


Siehe auch: