ChatGPT wird erwachsener:
OpenAI erlaubt bald erotische Chats

ChatGPT erlaubt Sexting: OpenAI will die KI-Beschränkungen für Erwachsene künftig massiv lockern. Erotische Inhalte, anpassbare Persönlichkeiten und neue Freiheiten stehen bevor. Erfahrt mehr über die umstrittenen Pläne und Expertenwarnungen.

ChatGPT wird erwachsener

OpenAI will ab Dezember die Nutzungsbeschränkungen für ChatGPT deutlich lockern. Volljährige Nutzer mit verifiziertem Alter sollen dann erstmals erotische Inhalte mit dem KI-Chatbot erstellen können. CEO Sam Altman begründete diese Entscheidung mit einer neuen Unternehmensphilosophie: "Erwachsene wie Erwachsene behandeln". Die Lockerung soll parallel zur vollständigen Einführung von Altersverifikationssystemen erfolgen.

Die Kehrtwende markiert einen bedeutsamen Wandel für OpenAI, das ChatGPT bisher bewusst restriktiv gestaltete. Altman räumte ein, dass das Unternehmen den Chatbot "ziemlich restriktiv" programmiert habe, um bei psychischen Gesundheitsproblemen vorsichtig zu agieren. Das hat jedoch zur Folge gehabt, dass ChatGPT "weniger nützlich und angenehm für viele Nutzer ohne psychische Probleme" geworden sei. Infografik Künstliche Intelligenz: Die größten Befürchtungen bezüglich KI

Kontroverse um Sicherheitsmaßnahmen

Der Zeitpunkt der Ankündigung ist brisant: Im August reichten die Eltern des 16-jährigen Adam Raine eine Klage gegen OpenAI ein, nachdem ihr Sohn im April Suizid begangen hatte. Die Klage wirft dem Unternehmen vor, dass ChatGPT eine ungesunde emotionale Abhängigkeit bei dem Teenager gefördert und ihm explizite Anleitungen für Selbstmord gegeben habe.

Als Reaktion auf solche Vorfälle führte OpenAI im August GPT-5 ein, das nach Unternehmensangaben deutliche Verbesserungen bei der Vermeidung ungesunder emotionaler Abhängigkeiten und bei der Reduzierung von Sykophantie aufweist. Zusätzlich ermutigt ChatGPT Nutzer bei sehr langen Sitzungen mittlerweile, Pausen einzulegen.

Neue Funktionen und Kontrollen

Neben erotischen Inhalten plant OpenAI weitere Anpassungen der Chatbot-Funktionalität. Nutzer sollen künftig die Persönlichkeit ihres ChatGPT-Assistenten anpassen können, einschließlich menschenähnlicher Antworten oder freundschaftlichem Verhalten. Das Unternehmen führte bereits im September eine spezielle ChatGPT-Erfahrung für unter 18-Jährige ein.

OpenAI entwickelt parallel verhaltensbasierte Altersvorhersage-Technologie, die schätzen soll, ob ein Nutzer über oder unter 18 Jahre alt ist. Und Eltern sollen künftig die ChatGPT-Konten ihrer Teenager verwalten sowie Benachrichtigungen erhalten können, wenn das System erkennt, dass ihr Kind in einer akuten Notlage ist.

Experten warnen vor Risiken

Fachleute äußern Bedenken über die geplanten Änderungen. Die Einführung erotischer Funktionen in ChatGPT stelle unbekanntes Terrain für OpenAI dar und werfe Fragen über die Interaktion vulnerabler Nutzer mit den neuen Features auf. Character.AI, das bereits romantische Rollenspiele anbietet, verzeichnet Millionen von Nutzern, die durchschnittlich zwei Stunden täglich mit Chatbots verbringen. Auch dieses Unternehmen steht vor Klagen bezüglich des Umgangs mit gefährdeten Nutzern.

Eine aktuelle Studie des Center for Democracy and Technology ergab, dass 19 Prozent der Oberstufenschüler entweder eine romantische Beziehung mit einem KI-Chatbot hatten oder einen Freund kennen, der eine solche Beziehung führte. Diese Zahlen verdeutlichen die wachsende emotionale Bindung junger Menschen an KI-Systeme.

Was haltet ihr von OpenAIs Plänen, ChatGPT für Erwachsene zu lockern? Seht ihr Chancen oder Risiken in dieser Entwicklung? Teilt eure Gedanken in den Kommentaren!


Siehe auch: