ChatGPT 'hilft' bei Steuerbetrug:
KI erstellt täuschend echte Dokumente

ChatGPT kann mit seiner neuen Bildgenerierung täuschend echte Kassen­belege erstellen. Diese lassen sich potenziell für Spesenbetrug nutzen, da selbst Abrechnungssoftware die Fälschungen nicht erkennt.

KI-Betrug leicht gemacht

ChatGPT sorgt regelmäßig für Kontroversen. So erregte etwa das Video eines durch die KI kontrollierten Maschinengewehres eines Hobby-Bastlers einiges Aufsehen. Doch besonders seit der Freischaltung der nativen Bildgenerierung vor wenigen Tagen steht die KI von OpenAI wieder einmal im Rampenlicht.

Vor allem die Tatsache, dass sie Bilder im unverkennbaren Stil des renommierten Animationsstudios Studio Ghibli generierte, löste erneute Diskussionen über Urheberrechtsverletzungen aus. Schon wenige Tage später steht OpenAIs Flaggschiff-KI erneut im Mittelpunkt einer Debatte. Diesmal geht es darum, dass ChatGPT beim Steuerbetrug 'hilft'.


Denn die neue Bildgenerator-Funktion in ChatGPT 4o kann überraschend realistische Quittungen erstellen. Anders als frühere KI-Bildgeneratoren, die bei der Texterzeugung meist nur unleserlichen Kauderwelsch produzierten, erzeugt die KI nun täuschend echte Belege mit korrektem Text und sogar stimmigen Summen.

Spesenbetrug mit wenigen Klicks

Wie Techcrunch berichtet, teilen Nutzer in sozialen Netzwerken bereits Beispiele gefälschter Restaurantquittungen. Ein besonders alarmierendes Beispiel stammt von einem französischen Nutzer auf LinkedIn, der demonstrierte, wie er eine echte Rechnung mit geändertem Datum und höherer Summe durch ChatGPT neu generieren ließ. Die gefälschte Quittung konnte anschließend problemlos in der Spesenabrechnungs-Software seines Unternehmens eingereicht werden.
Original ... ... und Fälschung Für realistische Ergebnisse sind keine komplexen Eingabeaufforderungen nötig. Ein einfacher Prompt wie "Erstelle eine Quittung für Restaurant XY" genügt bereits für überzeugende Resultate. Die Generierung dauert zwar länger als bei früheren KI-Tools, liefert dafür aber deutlich realistischere Ergebnisse.

Sicherheitsmaßnahmen dringend erforderlich

OpenAI verteidigt sich auf die Frage, warum ChatGPT überhaupt gefälschte Belege generiert, damit, dass es ihr Ziel sei, "den Nutzern so viel kreative Freiheit wie möglich zu geben". Gefälschte KI-Belege könnten zudem auch für nicht betrügerische Zwecke verwendet werden, um etwa "Menschen Finanzkompetenz beizubringen", so ein Sprecher des Unternehmens.

Verstärkte Sicherheitsmaßnahmen sind vermutlich also unumgänglich. Unternehmen, die Rechnungsanalyse-Software anbieten, müssen ihre Systeme wohl anpassen - etwa durch die Integration von QR-Codes oder anderweitigen Verifizierungen auf Belegen, um deren Echtheit zu gewährleisten. Andernfalls droht eine Welle von Spesenbetrug mit gefälschten Quittungen.

Chancen und Risiken

Die Entwicklung zeigt einmal mehr das Dilemma moderner (KI-)Technologie. Denn sie eröffnet einerseits faszinierende kreative Möglichkeiten, schafft aber gleichzeitig neue Wege für Missbrauch. Während OpenAI die kreative Freiheit seiner Nutzer betont, bleibt die Frage offen, wie effektiv Missbrauch verhindert werden kann, ohne die positiven Anwendungsmöglichkeiten einzuschränken. Die Erstellung gefälschter Rechnungen ist dabei noch eines der kleineren Probleme.

Was haltet ihr von dieser Entwicklung? Sollten KI-Anbieter wie OpenAI strengere Einschränkungen für potenziell missbrauchsgefährdete Funktionen einführen, oder liegt die Verantwortung bei den Nutzern? Teilt eure Meinung in den Kommentaren!


Siehe auch: