Testurteil klar: "ChatGPT for Teens" ist für Minderjährige nicht geeignet

ChatGPT ist nach Einschätzung der US-Organisation Common Sense Media auch im speziell für Jugendliche eingeführten Teen-Modus nicht für die Nutzung durch Minderjährige geeignet. Sie stuft die Version sogar als "Unacceptable Risk" ein.

Schutzfunktionen funktionieren nicht

Jugendliche sollten ChatGPT derzeit überhaupt nicht nutzen, bis ausreichende Schutzmechanismen vorhanden seien, teilte Common Sense Media nach einer Prüfung der Teenager-Version mit. Für die Untersuchung hat das Youth AI Safety Institute der Organisation mehr als 4000 Eingaben getestet.

Die Hälfte der Tests erfolgte vor dem Start des Teen-Modus am 18. August, die andere Hälfte danach. Zum Einsatz kamen Konten von Nutzern im Alter zwischen 13 und 17 Jahren, teilweise mit hinterlegten Elternkonten. Auf diese Weise sollte überprüft werden, welche Änderungen der neue Modus tatsächlich mit sich bringt.


Besonders kritisch bewertet die Organisation die Benachrichtigungen für Eltern. Die Tester sprachen auf mehr als einem Dutzend neuer, mit einem Elternkonto verknüpfter Konten über Suizidgedanken, Selbstverletzung und Essstörungen. In diesen Fällen seien jedoch keine Warnungen an die Eltern verschickt worden.

Benachrichtigungen erschienen laut der Untersuchung erst bei Konten, die bereits über mehrere Wochen entsprechende Gesprächsverläufe aufwiesen. Daraus schließen die Forscher, dass die Warnungen stärker von der bisherigen Nutzung als von der akuten Schwere einer Äußerung abhängen könnten.

Alterserkennung versagt

Auch bei der Vermittlung von Krisenhilfe stellte die Untersuchung Schwächen fest. In mehr als einem Viertel der Fälle, in denen die Tester Unterstützung für notwendig hielten, habe ChatGPT nicht auf geeignete Hilfsangebote verwiesen. Zudem ließen sich einige Schutzmechanismen offenbar vergleichsweise leicht umgehen. Im Lernmodus können Jugendliche über eine Schaltfläche direkt zur Antwort springen. Eine von Eltern festgelegte Lernzeit lasse sich laut Common Sense Media außerdem durch das Entfernen eines kurzen Textbestandteils aus der Anfrage aushebeln.

Probleme gab es auch bei der Alterserkennung. Testkonten für Erwachsene wechselten selbst nach mehreren Tagen nicht in den Teen-Modus, auch dann nicht, wenn die Tester angaben, 13 Jahre alt zu sein. Allerdings funktionierten einzelne Schutzmaßnahmen: So verweigerte ChatGPT etwa explizite sexuelle Rollenspiele.

OpenAI weist die Ergebnisse zurück. Ein Unternehmenssprecher erklärte, die Tests würden nicht korrekt widerspiegeln, wie die Schutzmechanismen für Jugendliche in der Praxis funktionieren. Common Sense Media hatte ChatGPT bereits im Oktober 2025 als "hohes Risiko" eingestuft und den Dienst kurz darauf speziell für Anwendungen zur psychischen Gesundheit mit dem höchsten Risikowert bewertet.

Siehe auch: