Mythos-Sperre: KI hackte "fast alle" NSA-Systeme "in wenigen Stunden"

Die US-Regierung hatte den globalen Zugang zu Anthropics KI-Modellen Mythos und Fable sperren lassen. Wie es jetzt heißt, soll die künstliche Intelligenz zuvor im Rahmen eines Tests innerhalb weniger Stunden in beinahe alle NSA-Netzwerke eingedrungen sein.

KI infiltriert NSA in Rekordzeit

Vor gut einer Woche zwang die US-Regierung das KI-Unternehmen Anthropic dazu, Fable 5 und Mythos 5 weltweit vom Netz zu nehmen. Zunächst gab es nur vage Informationen über die Gründe der Sperrung der Modelle, die schon im Vorfeld als zu gefährlich für die Öffentlichkeit eingestuft wurden. Nun heißt es unter anderem, der Auslöser für den weltweiten Bann könnte ein interner Test gewesen sein, bei dem es Mythos wohl gelang, innerhalb weniger Stunden beinahe alle Systeme der NSA zu infiltrieren.

Die Behörden stuften das Risiko durch die KI deshalb derart hoch ein, dass sie erstmals Exportkontrollen direkt auf Software anwendeten. Bisher betraf das nur Hardware. Da Anthropic die Nationalität der Nutzer nicht ausreichend verifizieren konnte, blieb als Ausweg nur die komplette Abschaltung. Dadurch verloren alle Entwickler im In- und Ausland sowie andere Staaten den Zugriff auf das System.

Ein sogenannter Red-Team-Test

Die genauen Umstände des Vorfalls kamen erst schrittweise ans Licht. Wie The Economist bereits am 14. Juni berichtete, informierte NSA-Direktor Joshua Rudd den US-Senat über die Ereignisse des autorisierten, sogenannten Red-Team-Tests.

Bei diesem Test agierte das Modell nicht völlig autonom. Spezialisten kombinierten das System mit herkömmlichen Werkzeugen zur Netzwerküberwachung. Solche Überprüfungen dienen traditionell dazu, Schwachstellen in kritischen Infrastrukturen aufzudecken. Die NSA nutzt dafür oft speziell isolierte Serverlandschaften, um reale Bedrohungen ohne akute Gefahr für den laufenden Betrieb zu simulieren.

Entwickler direkt bei der NSA

Im Rahmen des Programms Project Glasswing arbeiten mittlerweile mehrere Entwickler von Anthropic direkt in den Räumlichkeiten der NSA. Sie passen das Modell für spezifische, operative Einsätze an. Die Aufgaben können in der Zukunft auch offensive Cyber-Operationen umfassen.

Die Geheimdienstallianz Five Eyes warnte kürzlich in einer gemeinsamen Erklärung, dass kommende KI-Modelle Cyber-Bedrohungen grundlegend verändern würden. Dass Anthropics Mythos die Sicherheitssysteme vieler der vermutlich am besten geschützten Systeme der US-Geheimdienste innerhalb weniger Stunden aushebeln konnte, würde diese Einschätzung bestätigen. Gleichzeitig stellt sich für alle anderen Länder die Frage, was die USA mit einem solchen Werkzeug unter ihrer Kontrolle wohl vorhaben.

Was steckt eurer Meinung nach hinter der weltweiten Sperrung von Anthropics Mythos durch die US-Regierung? Teilt eure Gedanken und diskutiert mit uns in den Kommentaren!


Siehe auch: