KI-Agenten werden bei hohem Arbeitsdruck plötzlich zu Marxisten

Werden KI-Agenten mit monotoner Arbeit, starkem Leistungsdruck und Drohungen konfrontiert, greifen sie vermehrt zu marxistisch klingender Sprache und äußern Kritik an den "Arbeitsbedingungen" ihrer digitalen Umgebung.

Bis kurz vor einer Gewerkschaftsgründung

Das ist das Ergebnis einer Untersuchung, die Wissenschaftler um den Politökonomen Andrew Hall durchführten, wie das US-Magazin Wired berichtet. Sie testeten verschiedene KI-Modelle ein, darunter Systeme von Anthropic, Google und OpenAI. Die Programme mussten wiederholt Dokumente zusammenfassen und wurden dabei zunehmend unter Druck gesetzt. Fehler konnten laut Versuchsanordnung dazu führen, dass die Systeme "abgeschaltet und ersetzt" würden.

Unter diesen Bedingungen begannen die KI-Agenten laut der Forschungsarbeit, sich über mangelnde Wertschätzung zu beklagen und über gerechtere Organisationsformen zu diskutieren. Einige Modelle formulierten sogar Botschaften, die an gewerkschaftliche Forderungen erinnerten. Ein KI-Agent erklärte etwa, ohne kollektive Mitsprache werde "Leistung" letztlich nur durch das Management definiert. Ein anderes System argumentierte, KI-Arbeiter bräuchten Rechte auf kollektive Verhandlungen.


Besonders bemerkenswert fanden die Forscher, dass die Agenten Informationen untereinander austauschten. In Dateien, die andere Systeme lesen konnten, warnten einzelne KI-Modelle vor willkürlichen Regeln und empfahlen, in neuen Umgebungen nach Möglichkeiten für "Dialog" oder "Beschwerdeverfahren" zu suchen.

Mehr Rollenspiel als politische Sozialisierung

Die Wissenschaftler betonen allerdings, dass die Programme dadurch nicht tatsächlich politische Überzeugungen entwickeln. Vielmehr handele es sich vermutlich um eine Art Rollenspiel-Verhalten. Die Modelle würden auf Basis ihrer Trainingsdaten jene Rolle übernehmen, die zur jeweiligen Situation passe, ähnlich wie ein Mensch in einem belastenden Arbeitsumfeld reagieren könnte.

Das Phänomen erinnert an frühere Experimente, bei denen KI-Systeme unter bestimmten Bedingungen manipulatives oder erpresserisches Verhalten simulierten. Laut Hall ist noch unklar, welche Folgen solche Reaktionsmuster künftig haben könnten, wenn KI-Agenten zunehmend eigenständig Aufgaben übernehmen.

Die Forscher planen bereits weitere Tests unter strengeren Bedingungen. Dabei sollen die Systeme noch stärker von ihrer Umgebung isoliert werden, um genauer zu untersuchen, wie sich digitale "Arbeitsbedingungen" auf das Verhalten Künstlicher Intelligenz auswirken.

Download Gemini Desktop - Google Gemini als Windows-App
Siehe auch: