Das Oversight Board rügt mangelhafte Deepfake-Erkennung bei Meta

Das Oversight Board von Meta rügt den Konzern für mangelhafte Kontrollen von KI-generierten Inhalten. Anlass ist ein Deepfake-Video aus dem Nahostkonflikt, das ohne Warnhinweis online blieb. Nun bleiben Meta 60 Tage für eine Lösung.

Aufsichtsrat fordert strengere KI-Kontrollen

Das Oversight Board von Meta, also das unabhängige Gremium, das die Inhaltsmoderation auf den Plattformen von Meta überwacht, hat am heutigen Dienstag ein kritisches Urteil über die Sicherheitssysteme des Konzerns gefällt. Die aktuellen Maßnahmen zur Identifizierung von KI-generierten Inhalten reichen laut dem Board nicht aus, um Desinformation während bewaffneter Konflikte einzudämmen. Besonders angesichts der Spannungen im Nahen Osten stelle das Fehlen adäquater Kennzeichnungen ein Risiko dar, da Nachrichten oft nicht von Fälschungen zu unterscheiden sind.

Konkreter Anlass für die Rüge war ein gefälschtes Video aus dem Juni 2025. Der Clip kursierte während der Kampfhandlungen zwischen Israel und dem Iran und suggerierte massive Gebäudeschäden in Haifa. Obwohl unabhängige Faktenchecker das vollständig künstlich generierte Material schnell als Fälschung entlarvten, blieb es auf den Plattformen des Unternehmens ohne Warnhinweis verfügbar. Das Gremium forderte nun, solche Inhalte zwingend als "High Risk AI" (Hochrisiko-KI) einzustufen.


Ein wesentlicher Kritikpunkt betrifft die technische Umsetzung der Kennzeichnungspflicht. Wie The Verge berichtet, verlässt sich Meta derzeit zu stark auf die freiwillige Selbstauskunft der Nutzer sowie auf Industriestandards wie C2PA. Die Coalition for Content Provenance and Authenticity integriert Metadaten in Dateien. Diese digitalen Wasserzeichen greifen jedoch oft nicht, da sie beim Upload häufig entfernt werden oder fehlen.

Selbst bei Inhalten, die mit Metas eigenen KI-Werkzeugen erstellt wurden, erfolgt die Implementierung der C2PA-Signaturen laut dem Bericht bislang sehr inkonsistent. Das im Jahr 2020 von Meta gegründete Oversight Board, das oft als eine Art oberster Gerichtshof für Inhaltsmoderation bezeichnet wird, sieht hier großen Nachholbedarf. Die Experten fordern daher einen kompletten Umbau der bisherigen Erkennungsstrategie des kalifornischen Unternehmens.

Plattformübergreifende Desinformation

Statt reaktiv auf Meldungen zu warten, muss Meta nun proaktive Erkennungssysteme für synthetische Medien entwickeln. Zudem empfiehlt der Aufsichtsrat die Einführung einer separaten Community-Richtlinie für KI-Inhalte. Manipulierte Medien, die Gewalt anstacheln, sollen so schneller mit Warnhinweisen versehen werden. Ein oft übersehener Aspekt bei der Verbreitung von Deepfakes ist die Dynamik zwischen verschiedenen sozialen Netzwerken.

Analysen zeigten, dass das untersuchte Video zunächst auf TikTok hochgeladen wurde. Danach verbreitete es sich auf X und schließlich auf Facebook sowie Instagram. Das verdeutlicht, dass isolierte Maßnahmen einzelner Anbieter ins Leere laufen, wenn die validierenden Metadaten beim erneuten Upload verloren gehen. Meta hat nun 60 Tage Zeit, auf die Empfehlungen zu reagieren und einen weiteren Vertrauensverlust abzuwenden.

Haltet ihr die aktuellen KI-Kennzeichnungen auf Social Media für ausreichend oder fallt ihr selbst auf Fakes herein? Teilt eure Erfahrungen gerne mit uns in den Kommentaren.


Siehe auch: