Prime Video: Amazons zweites KI-Feature scheitert ebenfalls krachend

Amazon stoppt die KI-Zusammenfassungen auf Prime Video. Statt hilfreicher Rückblicke sorgten fehlerhafte Inhalte besonders bei Fallout-Fans für Unmut. Es ist bereits das zweite KI-Feature, das der Konzern kurz nach Start wegen mangelnder Qualität zurückzieht.

KI-Recaps wegen massiver Fehler gestoppt

Weniger als einen Monat nach ihrer Einführung hat Amazon die neuen KI-gestützten Zusammenfassungen für Serien stillschweigend wieder aus dem Angebot von Prime Video entfernt. Das Feature, das mittels generativer künstlicher Intelligenz automatische Rückblicke auf vergangene Staffeln erstellen sollte, fiel bei den Anwendern krachend durch. Grund dafür waren gravierende inhaltliche Fehler und sogenannte Halluzinationen der Software, die für Verwirrung sorgten. Es ist nach dem Desaster-Start von KI-Synchros bereits das zweite KI-Feature, das der Konzern kurz nach der Veröffentlichung aufgrund mangelnder Qualität wieder zurückziehen muss.

Die Funktion, die als Erweiterung des beliebten X-Ray-Features gedacht war, sollte eigentlich Schlüsselszenen identifizieren und sie mit einer KI-generierten Erzählstimme sowie Musik unterlegen. Doch das Ergebnis enttäuschte auf technischer und inhaltlicher Ebene.


Besonders eklatant waren laut Forbes Fehler in der Zusammenfassung zur ersten Fallout-Staffel. Dort interpretierte die KI Rückblenden des Charakters Ghoul fälschlicherweise als Szenen aus den 1950er Jahren. Fans der Reihe wissen jedoch, dass diese Sequenzen im retro-futuristischen Jahr 2077 spielen, unmittelbar bevor die Atombomben fielen. Auch die wichtige Dynamik zwischen den Protagonisten Lucy und dem Ghoul wurde falsch dargestellt. So dichtete die KI dem Ghoul Verhaltensweisen an, die in der Serie so nie stattgefunden hatten.

Fehlende Qualitätssicherung

Diese Vorfälle werfen ein Licht auf die aktuelle Strategie Amazons, menschliche Kuration zunehmend durch Algorithmen zu ersetzen. Der Einsatz wirkt dabei jedoch sehr unausgereift. Amazon verzichtet dem Anschein nach komplett auf eine menschliche Qualitätskontrolle. Das Unternehmen spart damit vermutlich kurzfristig Kosten, liefert aber Inhalte ab, die als minderwertiger "KI-Slop" bezeichnet werden können. Das Nutzererlebnis wird dadurch deutlich verschlechtert.

Auch bei den eingangs erwähnten KI-Synchronisationen hatten Fans die Qualität der künstlichen Stimmen massiv kritisiert, da sie emotionslos wirkten und Namen falsch aussprachen. Während die Technologie für einfache Übersetzungen Fortschritte macht, zeigt sich bei kreativen Inhalten oder narrativen Zusammenfassungen, dass die Qualität fehlt. Amazon nutzt seine zahlenden Kunden hier dem Anschein nach als eine Art Beta-Tester.

Technische Hürden

Technisch basierte das Recap-System auf der Analyse von Dialogen und Metadaten, um den Kontext zu erfassen. Das ist eine Aufgabe, an der Large Language Models ohne spezifisches Training für fiktionale Inhalte oft scheitern. Gérard Medioni, VP of Technology bei Prime Video, hatte das Feature im November noch als Innovation gepriesen, die Serien und Filme zugänglicher machen sollte. Die Realität zeigt nun jedoch, dass die Erfassung komplexer visueller und narrativer Zusammenhänge noch eine zu hohe Hürde darstellt. Die KI kann zwar Daten aggregieren, versteht aber den dramaturgischen Bogen einer Serie wie Fallout nicht zwangsläufig.

Auch andere Technologiekonzerne kämpfen mit ähnlichen Problemen bei der Implementierung generativer KI in Endkundenprodukte. So musste Apple schon vor einem Jahr seine KI-Benachrichtigungs-Zusammenfassungen korrigieren, nachdem diese falsche Kontexte bei Nachrichtenmeldungen generiert hatten. Für Amazon ist der Rückzug kurz vor dem Start der zweiten Fallout-Staffel ein kleines PR-Desaster, das kein gutes Licht auf die KI-Strategie des Konzerns und die Qualitätskontrolle wirft.

Haltet ihr den Einsatz von generativer KI für kreative Zusammenfassungen für sinnvoll oder überwiegen die Fehler? Und sollten Konzerne ihre KI-Funktionen vor Veröffentlichung gründlicher testen? Wir freuen uns auf eure Meinung in den Kommentaren!


Siehe auch: