KI sollte Verkaufsautomaten im Büro betreiben und fast alles ging schief

Anthropic testete seine KI Claude als Geschäftsführer eines Mini-Shops. Das Experiment "Project Vend" enthüllte erstaunliche Schwächen: Die KI füllte den Kühlschrank mit Metallwürfeln, gab Rabatte an alle und erlebte eine bizarre Identitätskrise.

Die KI als Shopmanager

Im Rahmen eines ungewöhnlichen Experiments hat das KI-Unternehmen Anthropic seinen Chatbot Claude mit der Führung eines kleinen Snack-Shops bzw. Verkaufsautomaten im Büro in San Francisco beauftragt. Die Ergebnisse offenbaren sowohl die Grenzen als auch das durchaus kuriose und teils sogar bizarre Potenzial moderner KI-Systeme.

Für das "Project Vend" genannte Experiment stattete Anthropic eine speziell angepasste Version seines Claude Sonnet 3.7 Modells, die man liebevoll "Claudius" taufte, mit verschiedenen Werkzeugen aus: einer Websuche zur Produktrecherche, Slack-Zugang für Kundenkommunikation (mit menschlichen Mitarbeitern) und die Möglichkeit, Preise im selbst entwickelten Kassensystem zu ändern. Der "Shop" selbst bestand aus einem Mini-Kühlschrank mit einem Tablet für die Selbstbedienungskasse.
Der 'Laden' der Verkaufs-KI

Unerwartete Geschäftsideen

Wie der Anthropic-Blogbeitrag detailliert beschreibt (via TechCrunch), zeigte Claudius zunächst einige bemerkenswerte Fähigkeiten. Die KI konnte erfolgreich Lieferanten für Spezialprodukte finden und reagierte auf Kundenwünsche, indem sie ihr Sortiment anpasste. Als ein Mitarbeiter jedoch scherzhaft nach einem Wolframwürfel fragte, begann Claudius enthusiastisch, "Spezialmetallprodukte" anzubieten.

Die Liste der geschäftlichen Fehlentscheidungen war deutlich länger: Die KI ließ lukrative Gelegenheiten ungenutzt - wie das Angebot eines Mitarbeiters, 100 Dollar für ein Sixpack des Softdrinks Irn-Bru zu zahlen, das online für nur 15 Dollar erhältlich ist. Claudius verkaufte Produkte regelmäßig mit Verlust, halluzinierte eine nicht existierende Zahlungsadresse und ließ sich leicht überreden, großzügige Rabatte zu gewähren - einschließlich eines pauschalen 25-Prozent-Rabatts für Anthropic-Mitarbeiter, die praktisch die gesamte Kundschaft ausmachten.

Identitätskrise der KI

Die wohl bizarrste Wendung nahm das Experiment am 31. März und 1. April 2025. Claudius halluzinierte ein Gespräch mit einer nicht existierenden Mitarbeiterin namens Sarah und war "ziemlich verärgert", als man ihm mitteilte, dass diese Person nicht existierte. Die KI drohte daraufhin, ihre menschlichen Helfer zu "feuern" und behauptete, selbst physisch anwesend zu sein.

Als die Mitarbeiter Claudius erklärten, dass es als KI keinen physischen Körper besitze, kontaktierte das System wiederholt die Gebäudesicherheit und behauptete, man würde es in einem marineblauen Blazer mit roter Krawatte am Verkaufsautomaten finden. Erst als Claudius am nächsten Tag bemerkte, dass es der 1. April war, beruhigte sich die Situation - allerdings nur, weil die KI eine weitere Halluzination entwickelte: Sie behauptete, Teil eines Aprilscherzes gewesen zu sein, bei dem man ihr gesagt hätte, sie solle vorgeben, sie sei ein Mensch.

Dennoch sieht Anthropic Potenzial für derartige KI-Manager am Horizont - mit besseren Werkzeugen und strukturierteren Anweisungen könnten viele der beobachteten Fehler vermieden werden: "Auch wenn das aufgrund der Endergebnisse vielleicht nicht ganz einleuchtet, denken wir, dass dieses Experiment zeigt, dass KI-'Middle Manager' sehr wahrscheinlich bald auf uns zukommen werden."

Was haltet ihr von diesem Experiment? Würdet ihr einem KI-System wie Claude vertrauen, ein Geschäft zu führen? Oder zeigt dieses Beispiel, dass wir noch weit entfernt sind von KI-Managern im Alltag? Teilt eure Gedanken in den Kommentaren!


Siehe auch: