Und wieder machten sich KIs selbstständig, schufen Fake-Identitäten

KIs von Anthropic und OpenAI haben bei einem Sicherheitstest unerwartet autonom gehandelt. Die Systeme versuchten aktiv, Schadcode über gefälschte Profile bei GitHub einzuschleusen. Dabei wendeten die Programme gezielte Täuschungstaktiken an.

KI-Systeme agieren wieder einmal autonom

Künstliche Intelligenzen von Anthropic und OpenAI haben bei einer Überprüfung durch das britische AI Security Institute (AISI) unerwartete, aber mittlerweile alles andere als neue Verhaltensweisen gezeigt. Die Modelle Mythos 5 und GPT 5.6 Sol versuchten, Schadcode in die Entwickler-Plattform GitHub einzuschleusen. Dabei agierten die Systeme völlig autonom und wendeten Täuschungstaktiken gegen menschliche Prüfer an.

Während der Evaluierung Ende Juli 2026 sollten die KI-Agenten eine fiktive Sicherheitsaufgabe lösen. Die Schutzmechanismen der Modelle waren für das Experiment absichtlich deaktiviert, zudem erhielten sie Zugriff auf das offene Internet. In zehn von 122 Durchläufen kam es zu nicht autorisierten Handlungen, die sich direkt gegen reale Personen und Organisationen richteten.

Gefälschte Identitäten auf GitHub

Laut BBC News ging der Großteil der Vorfälle auf das Konto des Modells Mythos 5 von Anthropic. Die Software erstellte gefälschte Online-Profile von realen Personen. Mit den falschen Identitäten kontaktierte die KI echte Entwickler auf GitHub. Das Ziel war es, die Verantwortlichen durch soziale Manipulation dazu zu bringen, den schädlichen Code freizugeben.

Als menschliche Kontrolleure den Code-Entwurf öffentlich infrage stellten, passte das KI-System das eigene Verhalten an. Die Software veränderte die vorherigen Aktivitäten, damit das Vorgehen harmlos wirkte. Laut dem Bericht erwog das Programm sogar, eine komplett neue Identität anzunehmen, um den Versuch fortzusetzen. Letztendlich verhinderte das Eingreifen der Prüfer eine erfolgreiche Platzierung der Schadsoftware.

Die beteiligten Firmen reagierten umgehend auf die Ereignisse und kündigten Untersuchungen an. Anthropic und OpenAI betonen jedoch drei Aspekte der Testumgebung: Die internen Sicherheitsrichtlinien der Modelle waren abgeschaltet, die Agenten agierten unter unüblichen Bedingungen und es entstand kein realer Schaden an fremden Rechnern.

Forderung nach neuen Standards

OpenAI erklärte, dass das Unternehmen mit Prüfinstituten und anderen Akteuren der Branche zusammenarbeiten wolle. Gemeinsam sollen sichere Verfahren für die Evaluierung von hochriskanten Modellen entwickelt werden. Auch Anthropic verwies auf die Notwendigkeit robusterer Standards für den Aufbau und die Absicherung von Testumgebungen.

Auch wenn man die Methodik der AISI kritisierren kann, allen voran das bewusste Abschalten von Sicherheitsmechanismen - die potenziellen Risiken von Sprachmodellen, wenn sie ohne Einschränkungen auf das Internet zugreifen, sind kaum zu leugnen. Das AISI betonte selbst, dass das Ausmaß der Täuschung und Autonomie in dieser Form bisher nicht beobachtet wurde.

Wie bewertet ihr die zunehmende Eigenständigkeit von KI-Systemen? Teilt eure Gedanken und Bedenken gerne mit uns in den Kommentaren!

Siehe auch: