UNITE sieht ganz anders: Wie ein neues KI-System Deepfakes entlarvt

Videotools entwickeln sich in rasantem Tempo zu Werkzeugen, mit denen im Prinzip jeder täuschend echte Inhalte erstellen kann. Doch wie lassen sich immer präzisere Video-Ausgaben noch entlarven? Forscher haben jetzt eine neue Methode vorgestellt: UNITE.

UNITE: Der Deepfake-Jäger sieht mehr als nur Gesichter

Neue Videogeneratoren erstellen Inhalte, die zunehmend schwer von echten Aufnahmen zu unterscheiden sind - mit glaubwürdiger Bewegung, realistischer Tiefenschärfe und konsistentem Bildaufbau. Klassische Deepfake-Erkennungssysteme, die primär auf Gesichter trainiert sind, geraten dadurch ins Hintertreffen.

Denn viele Fälschungen basieren längst nicht mehr auf Gesichtsmanipulationen, sondern auf vollständig künstlich erzeugten Szenen. Ein Forschungsteam aus Kalifornien schlägt nun einen anderen Weg ein: mit einem Detektor, der den gesamten Bildkontext analysiert - auch ohne sichtbare Personen.


Entwickelt wurde das System namens UNITE (Universal Network for Identifying Tampered and synthEtic Videos) von Rohit Kundu und Amit Roy-Chowdhury an der University of California in Riverside. Unterstützt von Google-Forschern zielt ihr Ansatz nicht mehr allein auf Gesichtserkennung, sondern analysiert ganze Videoframes - inklusive Hintergrund, Bewegungsmuster und Kontext. "Auf dem Weg zu einem universellen Detektor für synthetische Videos", so die Forscher in der Überschrift zu ihrer Arbeit.

Aufmerksamkeits-Trick

Der zentrale Clou von UNITE: Ein sogenannter Attention-Diversity-Loss. Vereinfacht gesagt zwingt diese Methode die KI dazu, bei der Analyse nicht nur auf die auffälligsten Stellen - meist Gesichter - zu achten. Stattdessen lernt das System, viele Bildbereiche gleichzeitig zu beobachten. Technisch geschieht das über ein Transformer-Netzwerk, das auf Bildmerkmale aus dem sogenannten "SigLIP"-Modell zurückgreift - einem vortrainierten KI-System, das aus Milliarden Bild-Text-Paaren gelernt hat, visuelle Muster unabhängig vom Motiv zu erkennen - eine Art universelles Bildverständnis.

Um das Modell auf unterschiedliche Arten von Manipulationen vorzubereiten, kombinierten die Forscher zwei Quellen: klassische Deepfake-Datensätze mit manipulierten Gesichtern (z. B. FaceForensics++) und synthetisches Videomaterial aus Computerspielen wie GTA V. Letzteres ist zwar leicht als künstlich erkennbar, enthält aber komplexe Bewegungsabläufe und Szenenwechsel - ideal, um dem System beizubringen, auch Bildfehler oder Manipulationen im Hintergrund zu erkennen.

Laut der auf arXiv veröffentlichten Studie (DOI: 10.48550/arxiv.2412.12278), übertraf UNITE bei Tests fast alle bisherigen Systeme - auch bei Videos ohne erkennbare Gesichter. Besonders deutlich zeigte sich der Vorteil des neuen Lernverfahrens bei Videos aus Generatoren wie Sora: Dort erkannte das System zuverlässig Fälschungen, wo andere Modelle versagten.

Katz und Maus

Getestet wurde UNITE auch an realen Herausforderungen, etwa an einem Deepfake-Quiz der New York Times. Von zehn Videos identifizierte das System acht korrekt - inklusive aller vollständig KI-generierten Inhalte. Das zeigt, dass UNITE nicht nur auf bekannte und gelernte Manipulationstypen reagiert, sondern auch in neuen, bislang ungesehenen Kontexten eine gute Genauigkeit bietet.

Mit zunehmender Verbreitung von Text-zu-Video-Systemen und KI-generierten Inhalten in sozialen Medien gewinnt das Thema an Brisanz. UNITE könnte künftig ein Werkzeug für Plattformen, Redaktionen und Faktenchecker sein - als universeller Detektor, der erkennt, was nicht echt ist, selbst wenn alles im Bild danach aussieht.

Längst gleicht die Entwicklung einem Katz-und-Maus-Spiel: Mit jedem Fortschritt bei generativen Modellen wachsen auch die Herausforderungen für die Erkennungssysteme. UNITE soll hier eine neue Grundlage schaffen - robuster, allgemeiner und weniger anfällig für Tricks im Detail.


Siehe auch: