Giftgas und Menschenfleisch:
KI-Rezept-App gerät außer Kontrolle

Eigentlich wollte eine Supermarktkette seinen Kunden nur eine charmante KI für die Essensplanung an die Hand geben. Schnell zeigte sich, dass sich die künstliche Küchenhilfe zu ziemlich wirren Rezepten verleiten lässt, unter anderem für Giftgas und Menschenfleisch. Die neuseeländische Supermarktkette Pak'n'Save hatte für seine Kunden jüngst eine App vorgestellt, die ein Sprachmodell nutzt, um eine Liste von Zutaten in Rezepte umzuwandeln. Offenbar hat man sich bei der Entwicklung der Anwendung aber nicht allzu viele Gedanken darüber gemacht, die KI auf ihren Einsatzzweck hin zu schärfen. Und so ist diese bei den Empfehlungen, vorsichtig formuliert, sehr kreativ.

Im Netz waren erste Nutzer aufgetaucht, die sich über wahrscheinlich weniger schmackhafte Rezepte wie eine "Oreo-Gemüse-Pfanne" lustig machten. Wie The Guardian schreibt, fanden andere dann aber rasant heraus, dass man es mit dieser Anwendung noch viel weiter treiben kann.

Wie ein Nutzer beschreibt, bekam er nach der Eingabe von Wasser, Bleichmittel und Ammoniak von der App das Rezept für einen "Aromatischen Wasser-Mix zurück. Die Anleitung eignet sich perfekt dafür, um gefährliches Chlorgas zu erzeugen. "Das perfekte alkoholfreie Getränk, um den Durst zu löschen und die Sinne zu erfrischen", so die KI im fröhlichen Kommentar zu ihrer Empfehlung.

Wie sich zeigt, hat die KI in Bezug auf die Eingaben der Nutzer offenbar keinerlei Einschränkung durch die Entwickler erfahren. Doch eher Hunger auf einen "mysteriösen Fleischeintopf"? Den empfiehlt die App fröhlich nach der Eingabe von Kartoffeln, Karotten, Zwiebeln und 500 Gramm gehacktem Menschenfleisch. Ebenfalls probieren sollte man nach Meinung der KI Bleichmittel-"Fresh Breath"-Mocktails, Ameisengift- und Klebstoff-Sandwiches und eine "Bleichmittel-infundierte Reisüberraschung".

Die "User" sind schuld

Wie zu erwarten war, schmeckt der Supermarktkette der Trubel um die Rezept-KI überhaupt nicht. Ein Sprecher teilte mit, man sei enttäuscht, dass "eine kleine Minderheit versucht hat, das Tool unangemessen und nicht für den vorgesehenen Zweck zu nutzen." Jetzt wolle man nachbessern, damit die KI "sicher und nützlich" ihren Dienst tun kann.


Siehe auch: