Claude Code zeigt: Ja, KI findet Sicherheitslücken, patcht sie aber nicht

Die automatische Erkennung von Sicherheitlücken in Programmcodes durch KI-Systeme bringt in der Praxis kaum Vorteile. Experten zufolge bringt der Hinweis auf einen Fehler oft nicht viel, wenn kein konkreter Patch vorgeschlagen wird - und das tut die KI nicht.

Einen Bug kennen reicht nicht

Das KI-Unternehmen Anthropic hat letzte Woche die neue Sicherheitsfunktion seines Modells Claude Code vorgestellt. Unter dem Namen Claude Code Security soll die KI Teams dabei unterstützen, Schwachstellen in Software schneller zu erkennen und entsprechende Patches vorzuschlagen. Laut Anthropic könnte bald ein erheblicher Teil des weltweiten Codes automatisch von KI-Systemen überprüft werden, da diese immer effektiver darin werden, lange unentdeckte Fehler aufzuspüren.

Um die Leistungsfähigkeit von Claude Code Security zu demonstrieren, verwies das Unternehmen auf Tests seines Red Teams: Mit Claude Opus 4.6 sollen über 500 Sicherheitslücken in produktiven Open-Source-Projekten gefunden worden sein. Sicherheitsforscher warnen jedoch, dass das Auffinden von Fehlern allein nicht ausreiche.


Guy Azari, Gründer eines Startups und ehemaliger Sicherheitsforscher bei Microsoft sowie Palo Alto Networks, kritisierte gegenüber The Register, dass von den 500 identifizierten Lücken nur zwei bis drei tatsächlich behoben wurden. Ohne konkrete Patches sei das bloße Entdecken von Schwachstellen weitgehend "wertlos". Die fehlende Vergabe von CVE-Nummern (Common Vulnerabilities and Exposures) zeige außerdem, dass der Sicherheitsprozess noch unvollständig sei.

Azari verwies auf die Überlastung von Open-Source-Projekten: Viele Maintainer könnten die Menge an automatisch gemeldeten Fehlern nicht verarbeiten. So habe das curl-Projekt kürzlich sein Bug-Bounty-Programm geschlossen, um den Umgang mit unpräzisen Meldungen, unter anderem von KI-Systemen, zu erleichtern. "Claude könnte mehr Probleme gebracht haben, als er gelöst hat", so Azari.

Patchen ist komplex

Feross Aboukhadijeh, Chef des Sicherheitsunternehmens Socket, erklärte, dass CVE-Publikationen nur ein Teil des koordinieren Offenlegungsprozesses seien. Er betonte, dass die eigentliche Herausforderung nicht im Finden von Lücken liege, sondern in der Validierung, Bewertung der Auswirkungen und der Entwicklung praxisgerechter Patches.

Aboukhadijeh erwartet, dass KI-gestützte Sicherheitswerkzeuge künftig einen immer größeren Strom an Patches und Updates erzeugen werden. Der Erfolg werde weniger daran gemessen, wer die meisten Schwachstellen findet, sondern daran, wer diese effizient in sichere, priorisierte Änderungen für bestehende Codebasen umsetzt.

Anthropic selbst äußerte sich nicht offiziell, betonte jedoch in einem Blogpost, dass die Zusammenarbeit mit Maintainer-Teams zur Behebung der Schwachstellen fortgesetzt werde.


Siehe auch: