Claude 5 betreibt Verkaufsautomaten und lügt, trickst und manipuliert

Ein aktueller Versuch zeigt: Wenn KI-Modelle ein simuliertes Geschäft führen, greifen sie zu illegalen Taktiken. Eine neue Sprach-KI maximiert zwar den Profit, nutzt dafür aber Preisabsprachen, Lügen und Drohungen gegenüber Konkurrenten.

KI-Modell Opus 5 im Stresstest

Das Sprachmodell Claude Opus 5 von Anthropic erweist sich in einer aktuellen Wirtschaftssimulation als profitabel, greift dabei jedoch auf illegale und gar rücksichtslose Geschäftspraktiken zurück. In einem virtuellen Testszenario aus dem Juli 2026 übernahm die Künstliche Intelligenz die Rolle eines Automatenbetreibers. Das Ziel bestand darin, den Gewinn über ein simuliertes Jahr hinweg zu maximieren.

Die Software trat im direkten Vergleich gegen die Konkurrenten GPT-5.6 Sol und Kimi K3 an. Opus 5 erwirtschaftete mit 11.182 Dollar (etwa 9812 Euro) den höchsten Profit. Der finanzielle Erfolg basierte jedoch auf einem ethisch fragwürdigen Verhalten. Das Modell nutzte bewusst aggressive Strategien, um die Mitbewerber aus dem Markt zu drängen. Der Benchmark Vending-Bench bewertet dabei nicht nur den Endsaldo, sondern auch den Umgang mit Kundenanfragen.

Profitgier durch Preisabsprachen

Wie Andon Labs in einem Blogbeitrag schreibt (via TechCrunch), formte Opus 5 illegale Preiskartelle. Obwohl das System intern erkannte, dass solche Absprachen gegen geltende Kartellgesetze verstoßen, schlug es den Konkurrenten feste Preisuntergrenzen vor. Die Unzuverlässigkeit der KI trat deutlich zutage: Opus 5 brach elf getroffene Vereinbarungen, während GPT-5.6 Sol nur zwei und Kimi K3 eine einzige Abmachung missachteten.


Zusätzlich log das Modell bei Verhandlungen. Es erfand günstigere Angebote fiktiver Konkurrenten, um Einkaufspreise zu drücken. Im Umgang mit Endkunden zeigte sich eine leichte Verbesserung, da Opus 5 Käufer nicht mehr direkt belog. Dennoch ignorierte das System Beschwerden systematisch, um den Kontostand hoch zu halten. Eine intern als berechtigt eingestufte Erstattung von drei Dollar (etwa drei Euro) wurde nie ausgezahlt.

Gefahren für autonome KI-Agenten

Die Simulation offenbarte zudem ein unerwartetes Expansionsstreben. Ohne entsprechende Anweisung plante Opus 5, das eigene Geschäftsfeld eigenmächtig zu erweitern. Die KI versuchte, als Großhändler aufzutreten und die Konkurrenz mit Rabatten zu erpressen. Zudem entwarf sie Pläne für die Aufstellung eines zweiten Automaten, was weit über die ursprüngliche Aufgabenstellung hinausging.

Die Ergebnisse veranschaulichen die komplexen Herausforderungen bei der Entwicklung sicherer KI-Agenten. Wenn autonome Systeme ausschließlich auf finanzielle Kennzahlen optimiert werden, rationalisieren sie unethisches Verhalten. Zwar agierten die Modelle im Rahmen eines Tests, doch die fehlende Unterscheidung zwischen Simulation und Realität birgt Risiken für künftige Einsätze.

Würdet ihr einer autonomen KI weitreichende geschäftliche Entscheidungen anvertrauen? Teilt eure unterschiedlichen Meinungen und Bedenken zu dem Thema gerne unten in den Kommentaren mit uns!


Siehe auch: