ChatGPT-Halluzinationen: Betreiber wird wegen Verleumdung verklagt

Die zunehmende Verbreitung von KI-Systemen dürfte zukünftig noch zu einer ganzen Reihe von Popcorn-Momenten vor den Gerichten dieser Welt führen. Wie nun beispielsweise in einem Fall, in dem ein Mann ChatGPT Verleumdung vorwirft und Schadensersatz verlangt. Laut der Klageschrift, die gegen den ChatGPT-Betreiber OpenAI eingereicht wurde, hatte ein Journalist das KI-Tool ChatGPT um eine Zusammenfassung eines Gerichtsverfahrens gebeten. Dazu setzte er den Algorithmus auf die gerichtlichen Unterlagen zu dem Fall an. Hierbei machte ChatGPT allerdings Fehler, die zu dem neuen Verfahren führten.

Denn die KI interpretierte die Dokumente fälschlicherweise so, dass der Kläger nun angeblich beschuldigt wurde, als Schatzmeister Gelder einer Waffenrechts-Lobbygruppe namens Second Amendment Foundation veruntreut zu haben. Solche Fehlschlüsse sind keineswegs etwas komplett unbekanntes und werden gemeinhin als "Halluzinationen" der KI bezeichnet. Als der Journalist die Angaben prüfen wollte und ChatGPT aufforderte, ihm "den gesamten Text der Klage" zur Verfügung zu stellen, schickte das System eine völlig erfundene Klage zurück, die "keine Ähnlichkeit mit der tatsächlichen Klage hatte, einschließlich einer falschen Fallnummer", wie das britische Magazin The Register berichtete.

Grundsatzfragen zu klären

Der betroffene Mann sieht dadurch seine Persönlichkeitsrechte verletzt und die von der KI herausgegebenen Aussagen seien geeignet, seinen Ruf zu schädigen. "Während Forschung und Entwicklung von KI lohnenswert sind, ist es unverantwortlich, ein System auf die Öffentlichkeit loszulassen, das dafür bekannt ist, 'Fakten' über Menschen zu erfinden", sagte sein Anwalt John Monroe. Daher wird von OpenAI nun Schadensersatz in einer nicht spezifizierten Höhe eingefordert.

Ob dies allerdings Aussicht auf Erfolg hat, muss sich zeigen. In dem Fall dürfte es verschiedene Verantwortlichkeiten geben - so auch beim Journalisten, der offenbar etwas leichtfertig mit ChatGPT umging. Zudem verweist OpenAI darauf, dass es sich noch immer um ein experimentelles System handle, zu dem man der Öffentlichkeit zwar Zugang gewährt, für das man aber keine Garantien übernehmen will. Unabhängig davon dürfte die Sache, wie auch verschiedene andere Fälle, die grundsätzliche Frage aufwerfen, wer letztlich für die Aktivitäten einer selbstlernenden KI verantwortlich sein kann.


Siehe auch: