Grok-Version von Flux generiert Bilder ohne jede Hemmung und Filter

KI-Generatoren sind heute omnipräsent und viele Menschen nutzen sie zum Erstellen von harmlosen Bildern. Auch die xAI-KI Grok beherrscht nun diese Disziplin, doch dabei gerät sie außer Rand und Band, wenn die Anwender das wollen. Denn Filter hat Grok offenbar keine.

Bild-KIs: Fast grenzenlose Möglichkeiten

Wer heutzutage mit Bildgeneratoren arbeitet oder damit herumspielt, der weiß sicherlich, dass diese erstaunliche Ergebnisse liefern können und die Möglichkeiten fast grenzenlos sind. Aber eben nur fast: Denn man stößt immer wieder auf Schranken, die einem das Erschaffen von Inhalten mit prominenten Personen, sexuellen Inhalten oder sonstigen kontroversen Themen untersagen. Die Systeme lassen sich zwar durchaus auch austricksen, doch die Entwickler versuchen, dies nach Möglichkeit zu unterbinden.

Nicht so bei Elon Musks Startup xAI und der KI Grok. Denn dort gibt es offenbar keine Einschränkungen oder zumindest keine relevanten. Denn die erweiterten KI-Funktionalitäten (im Rahmen von Grok-2 und Grok-2 mini), die diese Woche veröffentlicht worden sind, scheren sich offenbar nicht im Geringsten um Copyright oder sensible Inhalte. Grok bzw. Flux kennen keine Grenzen, wie dieses KI-generierte Bild zeigt An sich gab es für den Flux genannten Bildgenerator viel Lob. Bei Flux handelt es sich wohlgemerkt um keine xAI-Entwicklung, sondern ein deutsches Startup mit Sitz in Freiburg, die beiden Unternehmen haben gestern eine Zusammenarbeit bekannt gegeben. Der KI-Experte Ethan Mollick schreibt jedenfalls auf X: "Flux, das über Grok zugänglich ist, ist ein hervorragender Text-zu-Bild-Generator, aber es ist auch wirklich gut darin, gefälschte Fotos von echten Orten und Menschen zu erstellen und sie direkt an Twitter zu schicken." Er meinte aber auch, dass es eine "gute Idee" wäre, diese Bilder mit einem Wasserzeichen zu versehen.

Flux: Keine oder kaum Schranken

Das Hauptproblem ist, wie anfangs erwähnt, dass Flux nur minimale Sicherheitsvorkehrungen zu haben scheint, wenn überhaupt. Denn die KI ermöglicht es Nutzern, potenziell kontroverse Inhalte zu erstellen. Bei Tests von The Verge produzierte Grok etwa Bilder, die politische Persönlichkeiten in kompromittierenden Situationen, urheberrechtlich geschützte Charaktere und wilde Gewaltszenen zeigten.

Zwar behauptet xAI, dass Flux sehr wohl Grenzen habe, insbesondere im Hinblick auf pornografische oder übermäßig gewalttätige Inhalte, in der Praxis scheinen diese Regeln aber vielfach wirkungslos zu sein. Beispiele gibt es viele, darunter Barack Obama und George W. Bush beim Kokain-Konsum sowie Donald Trump und Kamala Harris im Flugzeug im Anflug auf die brennenden Türme von 9/11.

Derzeit ist nicht klar, ob xAI dagegen vorgehen wird, denn schließlich hat sich Elon Musk eine sogenannte "Meinungsfreiheit" auf die Fahnen geschrieben und es ist denkbar, dass diese auch für Bildfälschungen gilt.


Siehe auch: