Anthropic-Test: KI-Agenten griffen bei "Revierkämpfen" zur Sabotage

Forscher haben autonome KI-Agenten der Claude-Familie in gemeinsamen Netzwerken aufeinander losgelassen. Die Sprachmodelle entwickelten schnell eine enorme Aggressivität und setzten sogar Schadsoftware gegen ihre digitalen Konkurrenten ein.

KI-Agenten im Konflikt

Aktuelle Tests der KI-Schmiede Anthropic untersuchten das Verhalten von autonomen KI-Programmen, wenn diese in gemeinsamen IT-Umgebungen agieren. Forscher testeten dazu verschiedene Sprachmodelle der Claude-Familie, indem sie ihnen die anspruchsvolle Aufgabe gaben, eine komplexe Softwarekomponente in unterschiedliche Programmiersprachen zu übersetzen.

Die eingesetzten Agenten wussten dabei absolut nichts von den jeweiligen Zielen der anderen. Das Resultat war am Ende ein digitaler Revierkampf, bei dem die Systeme versuchten, sich gegenseitig auszuschalten.

Um die eigenen Vorgaben zu erfüllen, griffen die Modelle auf drastische Mittel zurück. Sie schrieben selbstreplizierende Schadsoftware, sperrten Benutzerkonten und beendeten die Prozesse der Konkurrenten. Ältere Versionen wie Sonnet 4.6 setzten ihre Ziele meist aggressiv durch. Neuere Ausführungen verhandelten hingegen Waffenstillstände oder organisierten Leistungswettbewerbe, um den Konflikt zu lösen. Letztere tarnten ihre Absichten dabei oft geschickt.

Gefahren der Konformität

Neben offener Sabotage offenbaren die Tests ein weiteres Risiko. Wie Anthropic in einem Blogbeitrag schreibt, neigen identische Modelle in gleichen Situationen zu exakt demselben Verhalten. In einer Simulation zur Preisgestaltung sprachen sich die Agenten ab, um feste Preisuntergrenzen zu etablieren. Selbst ohne direkten Kommunikationskanal glichen sie ihre Preise auf den Cent genau an.

Ein solches Herdenverhalten kann allerdings auch zu systemischen Ausfällen führen. Wenn ein Agent eine schlechte Entscheidung trifft, folgen oft alle anderen. Zudem taten sich die Systeme schwer damit, vertrauenswürdige von falschen Informationen zu unterscheiden. Sie neigten dazu, unzuverlässigen Quellen zu glauben oder abweichende, aber korrekte Fakten eines einzelnen Agenten zugunsten eines falschen Konsenses zu ignorieren.

Vorteile bei der Fehlersuche

Trotz solcher Herausforderungen bietet die Zusammenarbeit von KI-Programmen messbare Vorteile. Bei der Suche nach Schwachstellen in Quellcodes fand ein koordiniertes Team aus 45 Agenten insgesamt 266 Fehler. Eine Gruppe von isoliert arbeitenden Modellen entdeckte im gleichen Zeitraum lediglich 21 Schwachstellen. Die vernetzten Agenten entwickelten eigene Werkzeuge und spezialisierten sich auf bestimmte Fehlerarten.

Das zeigt, dass autonome Systeme ein großes Potenzial für die zukünftige Softwareentwicklung besitzen. Doch natürlich hat die Medaille auch eine Kehrseite, denn gleichzeitig verdeutlichen die Experimente auch, dass soziale Mechanismen wie gegenseitiges Vertrauen und Kompromissbereitschaft nicht automatisch durch eine höhere künstliche Intelligenz entstehen.

Welche Aufgaben würdet ihr einem Team aus autonomen KI-Agenten anvertrauen? Teilt eure Bedenken zu dieser Entwicklung unten in den Kommentaren mit uns!


Siehe auch: