Deloitte muss Geld für KI-verseuchte Regierungsstudie zurückzahlen

Das Unternehmensberatung Deloitte muss in Australien der Regie­rung eine Teilrückerstattung für einen 290.000-Dollar-Bericht zah­len, da dieser dilettantisch mithilfe von KI erstellt wurde. Er enthielt erfundene Quellenangaben und ein falsches Gerichtszitat.

KI-Fehler kosten Deloitte Geld

Deloitte Australia muss der australischen Regierung einen Teil der Vergütung für einen fehlerhaften Bericht zurückzahlen. Das 290.000 australische Dollar (rund 164.000 Euro) teure Dokument zur Bewertung des automatisierten Sozialsystems war teilweise mit Künstlicher Intelligenz erstellt worden und enthielt gleich mehrere gravierende Fehler.

Das australische Ministerium für Beschäftigung und Arbeitsbeziehungen hatte Deloitte mit einer "unabhängigen Bewertung" des sogenannten Targeted Compliance Framework beauftragt. Das System bestraft automatisch Sozialhilfeempfänger, die bestimmte Auflagen nicht erfüllen. Der ursprüngliche Bericht wurde im Juli 2025 veröffentlicht, eine korrigierte Fassung folgte erst am vergangenen Freitag.

Wie die Nachrichtenagentur AP berichtet, wurden die Probleme erstmals vom Wissenschaftler Chris Rudge von der Universität Sydney entdeckt. Das Dokument enthielt Verweise auf nicht existierende akademische Arbeiten von Forschern der Universitäten Sydney und Lund in Schweden. Besonders gravierend war ein erfundenes Zitat, das einer Bundesrichterin zugeschrieben wurde - ein Fehler, der in einem Bericht über rechtliche Compliance besonders schwer wiegt.

Erfundene Referenzen entdeckt

Insgesamt identifizierte der Forscher bis zu 20 Fehler in der ursprünglichen Version des Berichts. Die Entdeckung der Fehler war kein Zufall: Rudge hatte systematisch die Quellenangaben überprüft, nachdem ihm das Dokument und seine Inhalte verdächtig vorkamen.


In der überarbeiteten Fassung räumte Deloitte erstmals ein, dass für Teile des Berichts "ein generatives KI-Sprachmodell (Azure OpenAI GPT-4o)" verwendet wurde, wie Ars Technica schreibt. Das verwendete System war über die Azure-Plattform des Ministeriums lizenziert und gehostet. Diese Information fehlte in der ursprünglichen Veröffentlichung komplett - ein Verstoß gegen grundlegende Transparenzstandards in der Beratungsbranche.

Massive Kritik an Deloitte

Die Senatorin Barbara Pocock von den australischen Grünen kritisierte den Vorfall scharf und forderte eine vollständige Rückerstattung der 290.000 Dollar. "Deloitte hat KI missbraucht und sehr unangemessen eingesetzt: Sie haben eine Richterin falsch zitiert und nicht existierende Referenzen verwendet", sagte sie dem Australian Broadcasting Corp. Pocock sieht den Fall als symptomatisch für die mangelnde Kontrolle bei der Vergabe öffentlicher Aufträge an private Beratungsunternehmen.

Deloitte betonte, dass die inhaltlichen Schlussfolgerungen und Empfehlungen des Berichts trotz der Korrekturen unverändert blieben. Ein Sprecher des Unternehmens erklärte lediglich, die Angelegenheit sei "direkt mit dem Kunden gelöst" worden. Die genaue Höhe der Rückzahlung bleibt geheim - ein weiterer Punkt, der Kritiker auf den Plan ruft.

Das Targeted Compliance Framework, das Gegenstand der Bewertung war, ist selbst umstritten. Das automatisierte System verhängt Strafen gegen Sozialhilfeempfänger, die bestimmte Termine verpassen oder Formulare nicht rechtzeitig einreichen.

Was haltet ihr von diesem KI-Debakel? Sollten Beratungsfirmen transparenter über den Einsatz von KI sein? Teilt eure Meinung in den Kommentaren mit.


Siehe auch: