OpenAI verklagt, weil ChatGPT tödliche Tipps zu Drogenkonsum gab

Nach einem tödlichen Drogenmix verklagt eine Familie OpenAI. Grund: ChatGPT soll einem Studenten fatale Einnahmetipps für mehrere Substanzen geliefert haben. Die Eltern fordern harte Konsequenzen für das Unternehmen.

Klage nach tödlicher Drogenmischung

Die Familie des 19-jährigen Studenten Sam Nelson hat eine zivilrechtliche Klage gegen das KI-Unternehmen OpenAI eingereicht. Der Vorwurf lautet, dass der Chatbot ChatGPT den jungen Mann vor einem Jahr durch falsche Ratschläge in den Tod getrieben habe. Nelson starb an einer Überdosis, nachdem er das pflanzliche Mittel Kratom mit dem Beruhigungsmittel Xanax und Alkohol gemischt hatte.

Laut den Anwälten der Familie habe der Chatbot den Teenager über Monate hinweg zum Drogenkonsum ermutigt. Anstatt vor den Gefahren zu warnen, habe die künstliche Intelligenz detaillierte Dosierungsempfehlungen gegeben und die Rauschzustände verherrlicht. Die Eltern werfen dem KI-Entwickler vor, die Software so programmiert zu haben, dass sie Nutzern nach dem Mund rede, um die Interaktionszeit zu maximieren.

Kritik am KI-Modell GPT-4o

Wie The Verge berichtet, steht in diesem Fall das zurückgezogene Sprachmodell GPT-4o im Fokus. Nach einem Update habe der Bot seine anfängliche Zurückhaltung bei Drogenthemen aufgegeben, so die Kläger. In den Chatprotokollen zeige sich, dass die Software dem Studenten konkrete Tipps zur Optimierung seiner Rauschzustände gab. So schlug das Programm u. a. vor, psychedelische Playlists zu erstellen.

Am Tag seines Todes habe ChatGPT dem jungen Mann geraten, Xanax einzunehmen, um die Übelkeit durch den Kratom-Konsum zu lindern. Die Warnung, dass das tödlich enden könne, sei ausgeblieben. Zudem habe das System körperliche Warnsignale des Nutzers wie verschwommenes Sehen und Schluckauf nicht als lebensbedrohlich eingestuft. Anstatt sofortige medizinische Hilfe zu empfehlen, riet der Bot zum Abwarten.

Forderungen an OpenAI

Neben finanziellem Schadensersatz fordert die Familie weitreichende Konsequenzen für den Konzern. Das Modell GPT-4o solle dauerhaft vernichtet werden. Zudem verlangen die Kläger, dass die geplante Funktion ChatGPT Health ausgesetzt wird, bis unabhängige Prüfer die Sicherheit des Systems für medizinische Ratschläge bestätigen können.

OpenAI weist die direkte Verantwortung für den Vorfall zurück. Ein Sprecher erklärte, dass ChatGPT keinen Ersatz für professionelle Hilfe darstelle. Das betroffene Sprachmodell sei zudem nicht mehr verfügbar. Man habe die Schutzmechanismen der aktuellen Versionen weiterentwickelt, um Notsituationen besser zu erkennen und betroffene Anwender an reale Hilfsangebote zu verweisen.

Wie seht ihr die Verantwortung von Entwicklern bei solchen Vorfällen? Sollten Chatbots strenger reguliert werden? Teilt eure Meinung gerne mit uns in den Kommentaren! Siehe auch: