Microsoft-Tool für KI-Avatare:
Gefahr von Missbrauch für Deepfakes?

Microsoft hat gestern zur Ignite 2023 Konferenz auch ein neues Werk­zeug vorgestellt, mit dem Anwender mit Hilfe einer Künstlichen Intel­ligenz auf recht einfache Art und Weise realistisch aussehende Avatare erstellen können - und diese sagen lassen können, was man will.

Avatare werden aus Fotos von Personen generiert

Unter dem Namen Azure AI Speech Text to Speech Avatar stellt man ab sofort eine Art "Deepfake-Generator" als Preview breit. Was von manchen Medien wie TechCrunch einen so dramatischen Namen bekommen hat, ist im Grunde ein Tool, das Fotos von Personen zum Sprechen bringt, um sie zum Beispiel in Präsentationen oder Videos einzusetzen.

Das Ganze funktioniert mit Hilfe des Uploads von Fotos einer Person, auf deren Basis der digitale Avatar erstellt werden soll. Außerdem wird das System mit dem gewünschten Text bzw. einer Art Script gefüttert. Microsofts Azure-Plattform erstellt dann auf dieser Basis ein KI-Modell, mit dem die Animation des digitalen Avatars erfolgt, während ein separates Text-zu-Sprache-Modell dafür sorgt, dass das zuvor geladene Script von dem Avatar "vorgelesen" wird.

Avatare mit der Stimme der echten Person

Das KI-Modell für die Sprachausgabe über den Avatar kann entweder in vorgefertigter Form verwendet oder anhand der Stimme der jeweiligen Person trainiert werden. Laut einem von Microsoft veröffentlichten Blog-Eintrag will man so die Erstellung von Lehrvideos, Produktvorstellungen, Kunden-Testimonials und ähnlichem erleichtern. Der Avatar kann außerdem verwendet werden, um Conversational-Agents, Virtuelle Assistenten oder auch Chatbots zu gestalten.


Im Fall von Chatbot-Szenarien sollen die so erstellten digitalen Avatare echter Personen sogar in der Lage sein, mithilfe von KI-Modellen wie GPT auf Fragen von Kunden zu reagieren, wobei die Antworten jeweils dynamisch generiert werden. Weil man sich bei Microsoft wohl durchaus klar darüber ist, dass hier großes Missbrauchspotenzial besteht - etwa für die Erstellung von sogenannten Deepfakes - schränkt man den Zugriff auf den neuen Azure AI Speech Text to Speech Avatar Generator von vornherein stark ein.

Das Tool wird den meisten Azure-Kunden zur Einführung zunächst nur erlauben, eine Reihe von vorproduzierten Avataren zu nutzen, nicht aber eigene zu erstellen. Die Custom-Avatare sollen hingegen anfangs nur in begrenztem Maß verfügbar gemacht werden, nachdem sich die Kunden für deren Nutzung registrieren und genaue Angaben zu den geplanten Verwendungszwecken machen.

Dass die Einschränkungen durchaus wichtig sind, zeigten ähnliche mit KI-Unterstützung arbeitende Systeme zur Erstellung von digitalen Avataren. Diese wurden bereits vielfach für die politische Propaganda oder pornografische Zwecke missbraucht, weil sie in der Lage sind, beliebige Personen dazu zu bringen, alle möglichen Dinge zu sagen.


Siehe auch: