Tödlicher KI-Ratschlag: Bauer vernichtet 10 Hektar seiner Sesam-Ernte

Ein Landwirt aus China hat versehentlich seine Sesam-Ernte vernichtet. Er vertraute auf ein Rezept zur Schädlingsbekämpfung, das von einem KI-Chatbot generiert wurde. Der Vorfall zeigt die Gefahren beim unkritischen Umgang mit Sprachmodellen auf.

KI-Tipp führt zu Ernteausfall

KI-Chatbots geben immer wieder absurde Ratschläge. Berühmt ist etwa der Tipp von Googles Gemini, Klebstoff als Pizzabelag zu verwenden. Doch es kommt auch zu tragischen Vorfällen, wie dem angeblich durch ChatGPT beförderten Suizid eines Jugendlichen. Dass es nicht immer eine gute Idee ist, die Ratschläge von künstlicher Intelligenz zu befolgen, hat jetzt auch ein 67-jähriger Landwirt aus dem chinesischen Chuzhou erfahren müssen.

Indem sich der Bauer auf eine KI-Empfehlung verlassen hatte, um Unkraut und Schädlinge auf seinen Feldern zu bekämpfen, vernichtete er versehentlich zehn Hektar seiner Sesam-Ernte. Der Chatbot generierte ein Rezept für eine chemische Mischung, die der Landwirt unverdünnt auf das gesamte Feld sprühte.


Bereits am nächsten Tag zeigte das unüberlegte Handeln verheerende Folgen. Die Sesam-Pflanzen starben zusammen mit dem Unkraut ab. Experten stellten fest, dass der Chatbot empfohlen hatte, hochwirksames Fluorpyrazol und Fluorsulfamid zur Unkrautbekämpfung zu nutzen und es mit Thiamethoxam und Methoxyfenozid zu mischen. Diese Substanzen sind teils für die gezielte Anwendung auf Sojabohnenfeldern gedacht und greifen breitblättrige Pflanzen an. Da Sesam botanisch jedoch genau zu dieser Kategorie zählt, wirkte das Gift auf dem gesamten Feld tödlich.

Risiko durch Sprachmodelle

Wie Ctwant (via Tom's Hardware) berichtet, nutzte der Mann KI bereits seit einem Jahr. Anfänglich stand er der Technologie skeptisch gegenüber. Nachdem die Technologie in der Vergangenheit jedoch hilfreiche Ratschläge zu Düngung und Zeitmanagement geliefert hatte, war das Vertrauen gewachsen. Der Landwirt verzichtete daher darauf, die Rezeptur vor der Anwendung durch Fachexperten überprüfen zu lassen.

Auf der Benutzeroberfläche von der KI befand sich zwar ein grundsätzlicher Warnhinweis, der Nutzer dazu aufruft, generierte Antworten zu überprüfen. Der Landwirt gab jedoch an, das übersehen zu haben.

Grenzen der Automatisierung

Die Landwirtschaft setzt zunehmend auf digitale Helfer, um Erträge zu steigern und Ressourcen zu schonen. Von sensorgesteuerten Bewässerungssystemen bis hin zu Drohnen für die Aussaat ist Technologie allgegenwärtig. Die Integration von generativer künstlicher Intelligenz steckt jedoch noch in den Kinderschuhen. Ohne fachspezifisches Training der Modelle bergen allgemeine Chatbots ein hohes Risiko für fatale Fehlentscheidungen auf dem Feld, wie am aktuellen Beispiel zu sehen ist.

Der Vorfall in China demonstriert, dass digitale Fehler reale und physische Konsequenzen haben können. Künstliche Intelligenz bietet zwar Vorteile bei der Informationsbeschaffung und Automatisierung von Aufgaben. Gleichzeitig fehlt unspezifisch trainierten Systemen aber das tiefgehende Verständnis für komplexe Zusammenhänge. Fachleute raten daher dazu, Antworten bei kritischen Entscheidungen stets zu hinterfragen und im Zweifel menschliche Experten hinzuzuziehen. Das musste der chinesische Landwirt jetzt auf die harte Tour lernen.

Vertraut ihr bei wichtigen Entscheidungen auf künstliche Intelligenz? Wie oft überprüft ihr tatsächlich die Antworten der Chatbots? Teilt eure Herangehensweisen und Erfahrungen gerne in den Kommentaren.


Siehe auch: