"Vergiftete" Daten: Sabotage-Tool hilft Künstlern im Kampf gegen die KI

Das Netz wird automatisiert nach Bildmaterial durchforstet, um damit KIs zu trainieren. Künstler und andere Urheber suchen nach Methoden, um nicht einfach vom Algorithmus aufgesaugt zu werden. Forscher liefern jetzt ein Tool, dass Bilder nur für die KI "vergiftet".

"Urheberrecht vs. KI: 'Vergiftete Bilder' als Abwehr"

Im Netz tobt mal wieder ein Kampf. KI-Unternehmen suchen händeringend nach hochwertigen Inhalten, um ihre Modelle weiterzuentwickeln. Im Fall von generativen KIs zur Erstellung von Bildern und Videos stehen auf der anderen Seite Künstler und Urheber, deren Werke bisher oft ohne Zustimmung von öffentlichen Quellen abgeschöpft werden. Auf verschiedenen Ebenen formiert sich hier Gegenwehr - jetzt unter anderem in Form eines Werkzeugs.

Wie Forscher der University of Chicago mitteilen, will man mit "Nightshade" ein Tool bereitstellen können, mit dem KI-Modelle während der Analysephase sabotiert werden können, sollten diese entsprechend behandelte Bilder "schlucken". Die Entwickler sprechen selbst von "vergifteten Bildern", bei denen manipulierte Pixel dafür sorgen, dass die Ausgabe des Trainings verändert wird. Für das bloße Auge sind diese Anpassungen vor der Verarbeitung nicht sichtbar.


Ben Zhao, ein Autor des Papiers "Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models", spricht von gezielten Angriffen, die mit Nightshade auf KI-Modelle möglich werden. "Eine geringe Anzahl von Nightshade-Attacken kann die allgemeinen Merkmale eines generativen Text-Bild-Modells destabilisieren, sodass die KI nicht mehr in der Lage ist, sinnvolle Bilder zu erzeugen", so Zhao laut Phys. Aus seiner Sicht sind Tools wie Nightshade der "letzte Schutz (...) vor Web-Scrapern, die Opt-out/Do-no-crawl-Richtlinien ignorieren". SD-XL: Erfolgreiche Sabotage mit 1000 Gift-Bildern (Quelle: arXiv) Wie das Team beschreibt, ist ihr Werkzeug besonders gut in "promptspezifischen Vergiftungsangriffen". Mit nur 1000 präparierten Bildern konnte ein zuvor "sauberes" Stable Diffusion XL-Modell so manipuliert werden, dass sich Bilder eines Hundes in Katzen wandelten. Bilder eines Autos werden zur Kuh, auch die Manipulation von Stilen ist möglich.

"Vergiftete Bilder" dürften KI-Unternehmen in Zukunft durchaus Kopfschmerzen bereiten, so auch die Meinung von Eva Toorenent, Beraterin für die Regulierung der künstlichen Intelligenz. Daten könnten nicht wie bisher einfach sorglos zum Training eingesetzt werden, da die Möglichkeit bestehe, "ihr gesamtes Modell zu zerstören, wenn sie Werke ohne Zustimmung übernehmen".


Siehe auch: