ChatGPT und Co.: OpenAI will KI-Tools für NSFW-Inhalte öffnen

Die umfangreichen Fähigkeiten generativer KI-Systeme verlocken die Nutzer natürlich auch dazu, erotische und pornographische Inhalte erstellen zu lassen. Bisher sperrten sich Anbieter eher dagegen. Bei OpenAI ändert sich die Haltung inzwischen aber.

Auch hier ist es so wie in vielen anderen Bereichen: Wo ein Wille ist, ist auch ein Weg. Wer also unbedingt explizite Inhalte mit KI-Systemen generieren will, greift notfalls eben zu Open Source-Angeboten, die zwar weniger leistungsfähig sind als beispielsweise die OpenAI-Modelle, dafür aber weniger Einschränkungen mit sich bringen.

Daher scheint bei dem Microsoft-Partner inzwischen die Überzeugung vorzudringen, dass man den Nutzern lieber einen kontrollierten Weg zu den gewünschten Inhalten bietet, als diese an völlig unkontrollierte Konkurrenzprodukte zu verlieren. Daher wird nun geprüft, auf welche Weise man die eigenen KI-Systeme befähigen kann, Not-Safe-For-Work (NSFW)-Content zu erstellen.

Denn es ist klar, dass bestimmte Formen weiterhin tabu sein sollten. Das gilt beispielsweise für eine Kombination von Deep-Fakes mit Pornographie. Man müsste es also hinbekommen, dass die KI Arbeitsaufträge für entsprechende Inhalte zwar annimmt, aber auch fein abgestimmte Grenzen beachtet - was deutlich schwieriger zu realisieren ist, als ein kompletter Ausschluss expliziter Anforderungen.

"Wir untersuchen, ob wir auf verantwortungsvolle Weise die Möglichkeit bieten können, NSFW-Inhalte in altersgerechten Kontexten zu generieren ... Wir freuen uns darauf, die Erwartungen der Nutzer und der Gesellschaft an das Modellverhalten in diesem Bereich besser zu verstehen", hieß es in einer Stellungnahme OpenAIs, die der britische Guardian zitiert.

Aktuell lehnt beispielsweise der Chatbot ChatGPT es ab, allein schon eine schriftliche Geschichte zu generieren, in der die Protagonisten miteinander Sex haben. Dies könnte sich also in einem bestimmten Umfang ändern. Auch der Bildgenerator DALL-E könnte sich für entsprechende Inhalte öffnen. Mira Murati, Chief Technology Officer von OpenAI, sieht derzeit aber noch nicht, das Gleiches auch für den Video-Generator Sora kommen wird.


Siehe auch: