Innovation schützt jedes Bild vor Erkennung und Veränderung durch KI

Wie kann man Bilder in Zukunft vor Veränderung durch KIs schützen? Forscher des MIT wollen auf diese drängende Frage mit einer spannenden Innovation eine Antwort geben können. Für Menschen unsichtbare Anpassungen machen es möglich, dass KIs die Bilder nicht mehr verstehen.

MIT-Forscher wollen KI-Bildmanipulationen verhindern

Generative KIs sind erst seit Kurzem für eine breite Masse verfügbar, die Fähigkeiten der KI-Systeme, Bilder zu erstellen und zu manipulieren sind aber schnell weiter fortgeschritten. Die rasante Entwicklung macht es nötig, sich über Lösungen Gedanken zu machen, die echte Bilder nicht nur mit einer Art Wasserzeichen kenntlich machen, sondern im besten Fall verhindern, dass diese von KI-Systemen erfasst und damit verändert werden können. Das MIT Computer Science and Artificial Intelligence Laboratory (MIT CSAIL) präsentiert mit "PhotoGuard" jetzt einen solchen Ansatz.

Wie das Forscherteam laut Engadget beschreibt, basiert das System auf der Idee, dass sich KIs durch gezielte "Störungen" verwirren lassen und dann ihre Fähigkeit der Bilderkennung einbüßen. Das Grundprinzip: ausgewählte Pixel im Bild werden so verändert, dass die künstliche Intelligenz bei dem Versuch der Darstellung des Zielbildes durch sein algorithmisches Modell - also der mathematischen Grundlage für die Position und Farbe jedes Pixels im Bild - aus dem Takt gerät. Für Menschen sind die Veränderungen dagegen unsichtbar.


Besonders spannend: Laut den Forschern geht ihre Methode noch einen Schritt weiter. Demnach ist es mit einer rechenintensiven "Diffusion" möglich, ein Bild für KIs so zu tarnen, dass sie bei Erkennungsversuchen einfach ein anderes Bild erfassen. "Der Encoder-Angriff lässt das Modell glauben, dass das (zu bearbeitende) Eingabebild ein anderes Bild ist (z. B. ein Graubild)", so Hadi Salman, MIT-Doktorand und Hauptautor der Arbeit, in einem Statement gegenüber Engadget. PhotoGuard macht Bilder 'immun' gegen KIs Allerdings gesteht Salman ein, dass man mit dieser Schutzmethode für Bilder noch ganz am Anfang steht und es willigen Akteuren mit verschiedenen Techniken möglich wäre, "PhotoGuard" zu überlisten. Der Wissenschaftler fordert die Entwickler von KIs klar dazu auf, mehr Verantwortung zu übernehmen: "Unternehmen, die diese Modelle entwickeln, müssen in die Entwicklung robuster Schutzmaßnahmen gegen die möglichen Bedrohungen durch diese KI-Tools investieren."


Siehe auch: