Mit diesem Tool von Microsoft kann man Deepfake-Videos entlarven

Die ultra-realistische Fälschung von Videos - Deepfakes genannt - sind in vielerlei Hinsicht brandgefährlich, können so doch im Prinzip jedem Worte in den Mund gelegt werden. Mit Video Authenticator stellt Microsoft jetzt ein Tool bereit, was die Manipulationen aufdecken kann.

Folgenschwere Deepfakes sollen mit dem neuen Microsoft Tool enttarnt werden

Der Präsident der Vereinigten Staaten verkündet in einem Video einen Atomangriff auf China: Diese und ähnliche Schreckensszenarien werden immer wieder an die Wand gemalt, wenn es um die folgenschweren Möglichkeiten geht, die Deepfakes mit sich bringen. Wäh­rend die KI-gestützte Technologie zur Manipulation von Videos aktuell meist für komödian­tische Zwecke zum Einsatz kommt, sind die denkbaren Anwendungsfelder für viele Beobach­ter Grund ge­nug, um nach zuverlässigen Erkennungsmethoden zu suchen. Genau ein solches Werk­zeug stellt jetzt Microsoft mit Video Authenticator bereit.


Unter der Überschrift "Der nächste Schritt im Kampf gegen Falschinformationen" beschreibt der Konzern in einem aktuellen Blogpost den Anlass für die Bemühungen: Demnach sehen sich immer mehr Länder in den letzten Jahren weitreichenden Kampagnen ausgesetzt, die darauf abzielen, "namhafte Personen zu diffamieren, die Öffentlichkeit zu manipulieren oder Debatten zu polarisieren". Dabei sieht der Konzern vor allem in Deepfakes ein immer größer werdendes Problem, dem man sich mit Technologie entgegenstemmen will.

Deepfakes machen erkennbare Fehler

Video Authenticator kann dabei Standbilder oder Videos analysieren, um dann eine prozen­tuale Wahrscheinlichkeit und damit einen "Ver­trauenswert" zu ermitteln, ob das Medium künstlich manipuliert wurde. Bei Videos kann das Werkzeug diesen Prozentsatz in Echtzeit für jedes Einzelbild während der Wiedergabe anzei­gen. "Es funktioniert, indem es die Über­blen­dungsgrenze des Deepfake und subtile Überblendungen oder Graustufenelemente er­kennt, die für das menschliche Auge mög­li­cher­weise nicht wahrnehmbar sind", so die Macher von Microsoft Research zur Funktionsweise.

Video Authenticator soll in einer Partnerschaft mit der Stiftung Reality Defender 2020 (RD2020) für "Nachrichtenagenturen und politische Kampagnen" bereitgestellt werden. Darüber hinaus soll die Technolgoie in einem Zusammenschluss aus Medienunternehmen - unter anderem BBC, CBC/Radio-Canada und New York Times - getestet und weiterentwickelt werden. "In den kommenden Monaten hoffen wir, die Arbeit in diesem Bereich auf noch mehr Technologieunternehmen, Nachrichtenverlage und Social-Media-Unternehmen auszuweiten."


News zum Thema: