Midjourney stoppt Gratistests nach "Missbrauch" des AI-Bildgenerators

Der KI-Bildgenerator Midjourney beendet nach dem Bekanntwerden von laut dem Unternehmen "außergewöhnlichem" Missbrauch die kostenlose Testversion seines Dienstes. Gemeint ist damit die Flut an Fake-Promi-Fotos, die in den letzten Tagen durch die Medien gingen. Laut einem Artikel der Washington Post ist Midjourney in den letzten Wochen in den Mittelpunkt unerwünschter Aufmerksamkeit geraten. Einige nutzten die KI des Unternehmens, um Deepfakes herzustellen, die auf den ersten Blick komplett glaubwürdig waren.

Während man die Bilder derzeit auf den zweiten Blick zwar dann doch noch als Fälschungen identifizieren kann, besteht die Sorge, dass böswillige Akteure Midjourney, OpenAIs DALL-E und ähnliche Generatoren nutzen könnten, um Fehlinformationen zu verbreiten. Beispiel eines Deepfakes von Midjourney - Trump verhaftet (Foto: r/midjourney subreddit) Das Tool wurde unter anderem dazu verwendet, Bilder von Ex-US-Präsident Donald Trump in Handschellen und von Papst Franziskus in einer hippen weißen Daunenjacke zu fälschen.

Hochkarätige Deepfakes

Die Fotos sind dank KI mittlerweile so realistisch, dass Midjourney nach der Aufregung um die gefälschten Promi-Bilder jetzt den Stecker zieht. Midjourney stellt die kostenlose Nutzung seines KI-Bildgenerators ein, damit es deutlich schwieriger wird, mithilfe des Tools hochkarätige Deepfakes zu erstellen. CEO David Holz erklärte dazu, dass das Unternehmen die kostenlosen Testversionen aufgrund der "außerordentlichen Nachfrage und des Missbrauchs der Testversionen" einstellt.

Die neuen Sicherheitsvorkehrungen hätten nicht ausgereicht, um Missbrauch während der Testphase zu verhindern, so Holz. Bis auf Weiteres müssen Nutzer damit mindestens 10 Dollar pro Monat zahlen, um die Technologie zu testen. Das hält zwar Nutzer nicht davon ab, Deepfakes zu erstellen. Das Unternehmen will aber Bezahl-Accounts besser verifizieren, sodass man bei missbräuchlicher Nutzung die Verantwortlichen schneller finden kann.


Siehe auch:
Betrug, Bitcoin, Scam, Dieb, Betrüger, Midjourney, gangster, Mann mit Hut