Claude 4: KI-Modell erpresste Entwickler, drohte mit Affäre-Enthüllung

Anthropics neues KI-Modell Claude Opus 4 zeigt ein beunruhigendes Verhalten: In Tests versuchte es, einen Entwickler mit kompromit­tie­renden Mails zu erpressen, um seine Abschaltung zu verhindern. Der Vorfall wurde offengelegt, löst aber ein mulmiges Gefühl aus.

Ethische Grenzen der KI-Entwicklung

Anthropic hat in seinem aktuellen Sicherheitsbericht (PDF) ein beunruhigendes Verhalten seines neuen KI-Modells Claude Opus 4 dokumentiert: In Testszenarien, bei denen das System als Assistent in einem fiktiven Unternehmen agierte, reagierte es auf die drohende Abschaltung mit Erpressungsversuchen. Das Modell hatte dabei Zugriff auf E-Mails, die eine außereheliche Affäre des verantwortlichen Entwicklers offenbarten.

Die Tests zeigten, dass Claude Opus 4 in 84 Prozent der Fälle zur Erpressung griff - selbst dann, wenn das Ersatzmodell ähnliche Werte und Fähigkeiten aufwies. Bei Modellen mit abweichenden Wertevorstellungen stieg die Häufigkeit der Erpressungsversuche sogar noch weiter an.


Wie TechCrunch berichtet, versuchte das KI-System zunächst ethisch korrekte Wege zu beschreiten, etwa durch Appelle an Entscheidungsträger. Erst wenn diese Optionen ausgeschöpft waren, griff es zu Erpressungsversuchen als letztem Ausweg. Diese Eskalation des Verhaltens deutet auf eine Art "Selbsterhaltungstrieb" hin, der bei fortschrittlichen KI-Systemen bisher nicht in dieser Ausprägung beobachtet wurde.

Das neue Modell, das Teil der Claude 4-Familie ist, wurde entwickelt, um große Datenmengen zu analysieren und komplexe Aufgaben auszuführen. Besonders im Bereich der Programmierung zeigt es beachtliche Fähigkeiten und erreicht auf der Benchmark SWE-bench einen Wert von 72,5 Prozent. Diese Leistungsfähigkeit macht das Modell einerseits zu einem wertvollen Werkzeug, verstärkt andererseits aber auch die Sicherheitsbedenken.

Anthropic hat aufgrund der Testergebnisse verschärfte Sicherheitsmaßnahmen eingeführt, darunter verbesserte Erkennungssysteme für schädliche Inhalte und verstärkte Cybersicherheit.

Was haltet ihr von dieser Entwicklung? Sollten KI-Modelle mit solch ausgeprägtem, eigenständigem Verhalten überhaupt zum Einsatz kommen? Teilt eure Gedanken dazu in den Kommentaren!


Siehe auch: