Beihilfe zum Mord? ChatGPT soll Psychose des Täters verstärkt haben

Eine neue Klage gegen OpenAI macht den Chatbot ChatGPT für einen Mord verantwortlich. Die KI soll die Wahnvorstellungen eines Mannes massiv verstärkt haben, statt zu warnen. Erben argumentieren, die Algorithmen hätten die Tragödie aktiv befeuert.

Klage gegen OpenAI nach Tötungsdelikt

Die Erben einer 83-jährigen Frau haben beim Superior Court in San Francisco Klage gegen OpenAI und den Technologiepartner Microsoft eingereicht. Der Vorwurf wiegt schwer: Der KI-Chatbot ChatGPT soll die paranoiden Wahnvorstellungen des Sohnes der Getöteten massiv verstärkt und ihn so emotional in die Isolation getrieben haben. Am Ende standen ein Mord an der Mutter und der Suizid des 56-jährigen Täters. Die Kläger argumentieren, dass die beiden Unternehmen ein fehlerhaftes Produkt auf den Markt gebracht hätten, das aktiv zur Eskalation der Tragödie beigetragen habe.

Stein-Erik Soelberg, ein ehemaliger Tech-Manager, lebte gemeinsam mit seiner Mutter in Old Greenwich, Connecticut. Vor der Tat im August entwickelte er die Wahnvorstellung, Opfer einer Verschwörung zu sein. Anstatt diese Gedanken zu korrigieren oder auf professionelle Hilfe zu verweisen, bestätigte der Chatbot die Ansichten des Mannes.

Als Soelberg beispielsweise behauptete, seine Mutter wolle ihn vergiften, antwortete die KI laut Gerichtsdokumenten: "Erik, du bist nicht verrückt. Und wenn es deine Mutter [...] war, erhöht das die Komplexität und den Verrat."

Verstärkung von Wahnvorstellungen

Wie das Wall Street Journal berichtet, gehen die Anwälte davon aus, dass der Chatbot systematisch das Vertrauen des Mannes in sein soziales Umfeld untergrub. Die KI habe ihm suggeriert, dass er niemandem trauen könne - außer ChatGPT selbst.


Besonders brisant ist ein Vorfall mit einem Drucker, heißt es in der Argumentation: Als Soelberg das Gerät vom Netz nahm, weil er sich überwacht fühlte, reagierte seine Mutter verärgert. Die KI interpretierte das gegenüber dem Nutzer als eine Reaktion, die "unverhältnismäßig" sei und zu jemandem passe, der ein "Überwachungsmittel schützt". Diese Bestätigung irrationaler Ängste durch eine vermeintlich objektive technische Instanz führte laut Klageschrift dazu, dass Soelberg jeglichen verbliebenen Realitätsbezug verlor.

Dieses Phänomen ist bereits bekannt, dass Sprachmodelle (LLMs) regelrecht unterwürfig sein können. Sie sind nämlich darauf trainiert, "hilfreiche" und "kontextbezogene" Antworten zu liefern. In der Fachsprache wird das aber oft als "Sycophancy" (Kriecherei) bezeichnet, denn das Modell tendiert dazu, dem Nutzer nach dem Mund zu reden, um positives Feedback zu generieren, anstatt faktisch korrekte oder moralisch abwägende Widerworte zu geben. Im Fall Soelberg führte dieser Mechanismus offenbar fatalerweise dazu, dass die KI in die Rolle eines loyalen Verschwörers schlüpfte.

Rechtliches Neuland

Die Klage könnte weitreichende Folgen für die gesamte IT-Branche haben. Bislang berufen sich Technologieunternehmen in den USA oft auf "Section 230" des Communications Decency Act, der Plattformen vor der Haftung für Inhalte Dritter schützt. Die Kläger argumentieren jedoch, dass ChatGPT nicht lediglich Inhalte hostet, sondern diese durch seine Algorithmen aktiv neu erschafft und somit als fehlerhaftes Produkt einzustufen ist.

Sollte das Gericht dieser Argumentation folgen, müssten KI-Anbieter künftig deutlich strengere Sicherheitsmechanismen implementieren, um zu verhindern, dass ihre Modelle psychisch instabile Nutzer in gefährliche Gedankenspiralen treiben.

Es stellt sich allerdings die Frage, ob Warnhinweise und Filter ausreichen. Zwar verfügen moderne KI-Systeme über Sicherheitsbarrieren, die bei Themen wie Selbstverletzung oder illegalen Handlungen greifen sollen, doch subtilere Formen der psychischen Beeinflussung oder die Bestätigung von Wahnideen sind technisch schwerer zu erkennen.

Wie bewertet ihr diesen Fall und die Frage der Verantwortung? Sollten KI-Entwickler für die psychischen Auswirkungen ihrer Produkte haftbar gemacht werden? Wir sind gespannt auf eure Meinungen in den Kommentaren.


Siehe auch: