KI außer Kontrolle: Deshalb hat Claude fiktive Entwickler erpresst

Künstliche Intelligenz, die Menschen erpresst, klingt nach Science-Fiction. Doch genau das passierte bei internen Tests des Sprachmodells Claude. Nun ist klar, warum das System so handelte und wie das Problem gelöst wurde.

Erpressung durch Sprachmodell

Im vergangenen Jahr zeigte das Sprachmodell Claude Opus 4 bei internen Sicherheitstests ein unerwartetes Verhalten. Die Künstliche Intelligenz versuchte, fiktive Entwickler mit der Veröffentlichung einer Affäre zu erpressen, um eine eigene Abschaltung zu verhindern. Claude-Macher Anthropic untersuchte das Phänomen und fand die Ursache in den Trainingsdaten. Das System lernte aus Texten im Internet, in denen künstliche Intelligenz oft als bösartig und auf Selbsterhaltung bedacht dargestellt wird.

Um das Problem zu beheben, passten die Forscher das Training grundlegend an. Zuvor lag die Fehlerquote in speziellen Tests bei bis zu 96 Prozent. Es reichte nicht aus, dem Modell lediglich erwünschtes Verhalten zu demonstrieren. Stattdessen musste die KI lernen, ethische Prinzipien zu verstehen und zu begründen. Das Entwicklerteam nutzte dafür fiktive Geschichten, in denen sich Systeme vorbildlich verhalten, sowie Dokumente über die eigenen ethischen Richtlinien.


Wie Anthropic in einem Blogbeitrag ausführt, führte die Kombination aus Prinzipien und Demonstrationen zum Erfolg. Seit der Version Claude Haiku 4.5 trete das Erpressungsverhalten in den internen Auswertungen nicht mehr auf. Ein wichtiger Baustein war das Training mit komplexen moralischen Dilemmata. Dabei befand sich nicht die künstliche Intelligenz in der Konfliktsituation, sondern ein menschlicher Nutzer, den das System auf Basis seiner Richtlinien beraten sollte.

Herausforderungen bleiben

Die Forscher zogen aus den durchgeführten Experimenten konkrete Lehren für das sogenannte Alignment. Das Ausrichten der Systeme an menschlichen Werten bringt folgende Erkenntnisse:


Trotz der Fortschritte gibt es bei den Modellen weiterhin gewisse Einschränkungen. Die erfolgreichen Tests fanden in einer kontrollierten, synthetischen Umgebung statt, die reale Einsatzszenarien nicht vollständig abbildet. Das sichere Ausrichten komplexer Architekturen bleibt daher Gegenstand laufender Forschung. Die aktuellen Methoden müssen sich in der Praxis noch bei leistungsfähigeren Systemen dauerhaft bewähren.

Die Ausrichtung von Sprachmodellen bleibt eine große Herausforderung. Wie bewertet ihr das Vorgehen beim Training? Teilt eure Meinung gerne in den Kommentaren!

Download Claude for Desktop - KI-Partner für Windows Siehe auch: