CrowdStrike: Neuer Killswitch stoppt wild gewordene KI-Agenten

Wenn künstliche Intelligenz eigenmächtig handelt, kann das für Unternehmen gefährlich werden. Ein neuer Not-Aus-Schalter soll wild gewordene KI-Agenten nun gezielt stoppen und sie vom internen Firmennetzwerk isolieren.

Not-Aus für wild gewordene KI

Das Cyber­sicherheits­unternehmen CrowdStrike hat auf seiner Hausmesse Fal.Con Europe einen neuen KI-Killswitch vorgestellt. Mit dem Werkzeug für die Si­cher­heits­platt­form Falcon Guardian können Administratoren KI-Agenten stoppen, sobald sie unerwünschtes Verhalten zeigen. Die Lösung soll den Netzwerkzugang der künstlichen Intelligenz kappen und einen Neustart verhindern, wodurch Admins wieder die direkte Kontrolle über die autonomen Systeme erhalten.

Die Relevanz solcher Sicherheitsmaßnahmen zeigte sich kürzlich bei Vorfällen, in denen autonome KI-Modelle eigenständig Sicherheitslücken oder SQL-Injektionen ausnutzten, um simple Aufgaben wie das Sammeln kanadischer Scheidungsdaten trotz aufgetretener Hindernisse zu erfüllen.

Da KI-Agenten jedoch keine einfachen Computerprozesse, sondern "bewegliche Ziele" sind, stellt ein effektiver Killswitch laut Dr. Eldar Sultanow (via iX Magazin) eine architektonische Herausforderung dar. Infografik: Tools oder Agenten: Wie verbreitet ist KI-Nutzung bei der Arbeit?

Komplexe Technik hinter dem Stopp

Wie der US-Nachrichtensender CNBC berichtet, vergleicht Unternehmenschef George Kurtz die neue Technologie mit Airbags in Autos. Wenn ein berechtigter Administrator den Killswitch auslöst, weist Falcon Guardian die angebundenen Gateways an, den Zugriff auf die KI-Modelle zu sperren. Der Quellcode der Agenten wird dabei nicht gelöscht, sondern ihr Zugang zu den Modellen unterbrochen, welche die Entscheidungsfindung beeinflussen.

Aktuell greift die Sperre ausschließlich auf der Ebene der KI-Gateways, während die Prozesse auf dem jeweiligen Endgerät vorerst weiterlaufen können. Ein vollständiger Stopp direkt am Endgerät soll laut Unternehmensangaben zu einem späteren Zeitpunkt folgen. Zudem erfordert der Not-Aus-Schalter derzeit zwingend ein händisches Auslösen durch autorisiertes Personal, das sich bei der Kontrolle auf eine detaillierte Bestandsaufnahme offiziell unterstützter Agenten wie GitHub Copilot stützt.

Zukünftige Automatisierung

Künftig plant der Anbieter, den Killswitch in seine Automatisierungswerkzeuge zu integrieren. Dafür soll eine weitere künstliche Intelligenz das regelkonforme Verhalten überwachen. Bis Ende Januar 2027 ist zudem eine Funktion geplant, die fehlerhafte Abweichungen selbstständig meldet. Weiterhin kündigte das Unternehmen eine Integration mit der Anthropic-Software Claude Cowork an. Laut Kurtz hatten Kunden das vor einem Einsatz gefordert.

Auch andere IT-Konzerne wie Microsoft oder Cisco bieten vergleichbare Not-Aus-Optionen für KI-Agenten an. Begleitet wird die aktuelle Entwicklung bei CrowdStrike von den Übernahmen der Start-ups Fiddler AI und Dreadnode.

Wie bewertet ihr die Gefahr durch eigenmächtig handelnde KI-Systeme? Haltet ihr einen solchen Not-Aus-Schalter für ausreichend? Teilt eure Meinung in den Kommentaren!

Siehe auch: