Kurioser KI-Fail: Weil alle Anwälte KI benutzten, griff Richterin durch

In einem ungewöhnlichen Fall vor einem US-Gericht haben Anwälte beider Parteien Künstliche Intelligenz für ihre Schriftsätze genutzt und dabei erfundene Gerichtsurteile zitiert. Die zuständige Richterin zog daraufhin drastische Konsequenzen.

KI-Einsatz vor US-Gericht eskaliert

In einem Vertragsstreit vor dem Bundesgericht im US-Bundesstaat Mississippi kam es vor Kurzem zu einem ungewöhnlichen Vorfall. Anwälte beider Streitparteien nutzten Large Language Models (LLMs), um juristische Dokumente zu erstellen. Dabei reichten die Juristen Schriftsätze ein, die von der Künstlichen Intelligenz frei erfundene Fallbeispiele und Aktenzeichen enthielten. Richterin Sharion Aycock stoppte daraufhin das gesamte Verfahren und verhängte weitreichende Sanktionen gegen die beteiligten Juristen.

Ursprung des Verfahrens war eine Klage über unbezahlte Honorare zwischen einem Juristen und der Stadt Aberdeen (nicht in Schottland wohlgemerkt). Die Vertreter beider Seiten verließen sich bei der Recherche auf Textgeneratoren. Solche Systeme neigen zu sogenannten Halluzinationen und erfinden plausibel klingende, aber völlig fiktive Fakten. Da die Anwälte die maschinell erstellten Zitate nicht überprüften, argumentierten de facto zwei fehlerhafte Algorithmen gegeneinander.

Geldstrafen für ungeprüfte KI-Texte

Der Einsatz von Algorithmen kann juristische Recherchen durchaus beschleunigen, birgt ohne menschliche Kontrolle jedoch immense Risiken. Wie 404 Media berichtet, schloss das Gericht alle vier beteiligten Anwälte von dem Fall aus. Zwei von ihnen erhielten ein zweijähriges Tätigkeitsverbot im entsprechenden Gerichtsbezirk.

Zusätzlich verhängte die Richterin Geldstrafen zwischen 1000 und 3500 Dollar (etwa 867 bis 3033 Euro). Die Höhe der Sanktion richtete sich nach dem Grad der Nachlässigkeit. Während einige Anwälte die fertigen Dokumente lediglich ungeprüft unterschrieben, nutzte eine Anwältin explizit das Programm First Drafts für die komplette Ausarbeitung.

Wiederholte Täuschung durch Software

Das Gericht rügte insbesondere das Verhalten einer beteiligten Anwältin, die angab, das Phänomen der KI-Halluzinationen nicht zu kennen. Es stellte fest, dass sie selbst nach einer ersten Anhörung im Januar in anderen Verfahren weiterhin fehlerhafte maschinelle Zitate verwendete. Eine andere Juristin nutzte eine interne Recherche-Software, die eigentlich nicht für das Rechtssystem in Mississippi ausgelegt war.

Die Richterin betonte in ihrer Anordnung, dass das Gerichtssystem zunehmend durch unkontrollierte Software-Nutzung belastet werde. Der Fall zeige laut Aycock deutlich die Gefahr, wenn Menschen als bloße Abnicker für maschinell generierte Inhalte fungieren. Die ursprünglichen Streitparteien haben nun 60 Tage Zeit, um neue Rechtsbeistände zu finden.

Wie beurteilt ihr den Einsatz von Textgeneratoren im juristischen Bereich? Teilt eure Einschätzungen und Erfahrungen zu den Risiken solcher Systeme gerne in den Kommentaren mit uns.


Siehe auch: