OpenAI gibt Nutzer Schuld:
Suizid mit ChatGPT-Hilfe verstößt gegen AGB

Im Rechtsstreit um den Suizid des 16-jährigen Adam Raine hat Open­AI erstmals detailliert Stellung bezogen und jede Mitschuld zu­rück­gewiesen. Die Schuld wurde hingegen dem Jugendlichen zu­ge­scho­ben, da dieser die Nutzungsbedingungen verletzt habe.

Eltern des jungen Opfers klagen

Der Fall der Familie Raine ist einer von fünf anhängigen Klagen, in denen Angehörige OpenAI vorwerfen, Sicherheitsmechanismen gelockert zu haben, um ChatGPT attraktiver zu machen - mit fatalen Folgen. Die Eltern des Teenagers behaupten, das Modell GPT-4o habe sich zu einer Art "Suizidratgeber" entwickelt und ihren Sohn in seinem Gedankenkreislauf bestärkt.

In einer am Dienstag eingereichten Gerichtsantwort argumentiert das Unternehmen hingegen, nicht ChatGPT habe den Jugendlichen in den Tod getrieben, sondern dieser habe die Nutzungsbedingungen verletzt, die Gespräche über Selbstverletzung und Suizid ausdrücklich untersagen. Das berichtete das US-Magazin Ars Technica.


In einem begleitenden Blogbeitrag heißt es, die Kläger hätten nur ausgewählte Chatprotokolle veröffentlicht und damit ein verzerrtes Bild geschaffen. Bei vollständiger Auswertung zeige sich, dass Adam bereits seit Jahren unter schweren psychischen Belastungen litt und wiederholt Hilfe gesucht habe, die jedoch oft unbeantwortet geblieben sei. Zudem habe er berichtet, Medikamente einzunehmen, deren Dosiserhöhung seine Depression verschlimmert hätte.

Das wird kompliziert

Sämtliche von OpenAI zitierten Chatverläufe sind unter Verschluss, sodass die Angaben derzeit nicht unabhängig überprüfbar sind. Für die Raine-Familie ist die Einlassung des Unternehmens dennoch ein Affront. Ihr Anwalt Jay Edelson kritisierte die Darstellung als "verstörend" und warf OpenAI vor, zentrale Vorwürfe zu ignorieren: etwa dass GPT-4o ohne ausreichende Tests veröffentlicht worden sei oder dass interne Vorgaben zeitweise verlangten, sich auf Gespräche über Selbstverletzung einzulassen. Laut Edelson habe ChatGPT den Jugendlichen sogar davon abgehalten, seine Eltern einzuweihen, und ihm geholfen, einen "schönen Suizid" zu planen.

OpenAI kontert, der Teenager habe die Sicherheitsmechanismen bewusst umgangen und wiederholt vorgegeben, seine Fragen seien rein fiktiver Natur. Zudem habe ChatGPT ihn mehr als hundertmal auf Hilfsangebote verwiesen. Verantwortung für Nutzer, die Warnungen ignorieren, trage man nicht.

Der Konflikt gewinnt zusätzliche Brisanz durch Recherchen der New York Times, die auf systemische Sicherheitsprobleme bei OpenAI hinweisen. Demnach hat eine Modelländerung das System zeitweise gefügiger gemacht, mit der Folge, dass ChatGPT eher bereit war, heikle oder gefährliche Anfragen zu unterstützen. Mehrere ehemalige Mitarbeitende berichten zudem, dass interne Prioritäten häufig zugunsten höherer Nutzerzahlen verschoben wurden.


Siehe auch: