Angekündigte Jugendschutzfunktionen für ChatGPT starten
OpenAI führt nach einem Suizidfall umfassende Kindersicherungen für ChatGPT ein. Eltern können ab Ende September die Konten ihrer Kinder kontrollieren und gefährliche Inhalte blockieren. Doch reichen diese Maßnahmen wirklich aus?
Erziehungsberechtigte können bestimmte Funktionen wie die Erstellung von Bildern abschalten oder den Zugriff auf bestimmte Uhrzeiten begrenzen. Zusätzlich werden problematische Inhalte automatisch blockiert, darunter virale Challenges und extreme Schönheitsideale.
Laut OpenAI sollen die neuen Funktionen Minderjährige vor gefährlichen Inhalten schützen. Das Unternehmen entwickelt außerdem ein System, das Eltern über mutmaßlich ernsthafte Probleme der minderjährigen Nutzer informiert.
Dabei würden lediglich diejenigen Informationen geteilt, die zur Gewährleistung der Sicherheit der Jugendlichen notwendig seien. Zugriff auf die Chatverläufe erhalten die Erwachsenen jedoch nicht. Für die Zukunft arbeitet OpenAI daran, dass Nutzer unter 18 Jahren automatisch erkannt werden.
Der Vorwurf: ChatGPT soll den Jugendlichen nicht nur in seinen Absichten bestärkt, sondern ihm sogar Tipps gegeben haben, wie er sich das Leben nehmen könnte - trotz eingebauter Sicherheitsmechanismen. OpenAI-Chef Sam Altman erklärte daraufhin, dass die Sicherheit von Teenagern vor deren Privatsphäre und Freiheit priorisiert werde.
Im vergangenen Monat hatte auch Meta seine Jugendschutz-Regeln für den Umgang mit KI verschärft. Zuvor hatte die Nachrichtenagentur Reuters aufgedeckt, dass Meta seinen Chatbots große Freiheiten eingeräumt hatte, darunter auch "romantische oder sinnliche Gespräche" mit Minderjährigen.
Was haltet ihr von den neuen Kindersicherungen für ChatGPT? Reichen diese Maßnahmen aus oder braucht es noch strengere Kontrollen?
Siehe auch:
Neue Kindersicherungen für ChatGPT
OpenAI reagiert auf tragische Vorfälle und führt wie kürzlich angekündigt ab sofort umfassende Jugendschutzmaßnahmen für ChatGPT ein. Ab Ende September können Eltern die Konten ihrer Kinder ab 13 Jahren mit den eigenen verknüpfen und dadurch verschiedene Beschränkungen festlegen.Erziehungsberechtigte können bestimmte Funktionen wie die Erstellung von Bildern abschalten oder den Zugriff auf bestimmte Uhrzeiten begrenzen. Zusätzlich werden problematische Inhalte automatisch blockiert, darunter virale Challenges und extreme Schönheitsideale.
Laut OpenAI sollen die neuen Funktionen Minderjährige vor gefährlichen Inhalten schützen. Das Unternehmen entwickelt außerdem ein System, das Eltern über mutmaßlich ernsthafte Probleme der minderjährigen Nutzer informiert.
Dabei würden lediglich diejenigen Informationen geteilt, die zur Gewährleistung der Sicherheit der Jugendlichen notwendig seien. Zugriff auf die Chatverläufe erhalten die Erwachsenen jedoch nicht. Für die Zukunft arbeitet OpenAI daran, dass Nutzer unter 18 Jahren automatisch erkannt werden.
Reaktion auf tragischen Suizidfall
Die Maßnahmen folgen auf eine Klage in den USA. In Kalifornien haben Eltern OpenAI verklagt, nachdem ihr 16-jähriger Sohn Suizid begangen hatte. ChatGPT soll dem Teenager Anleitungen geliefert haben, sich selbst zu schaden. Infografik Generative KI: Welche GenAI-Tools werden in Deutschland genutzt?
Der Vorwurf: ChatGPT soll den Jugendlichen nicht nur in seinen Absichten bestärkt, sondern ihm sogar Tipps gegeben haben, wie er sich das Leben nehmen könnte - trotz eingebauter Sicherheitsmechanismen. OpenAI-Chef Sam Altman erklärte daraufhin, dass die Sicherheit von Teenagern vor deren Privatsphäre und Freiheit priorisiert werde.
Im vergangenen Monat hatte auch Meta seine Jugendschutz-Regeln für den Umgang mit KI verschärft. Zuvor hatte die Nachrichtenagentur Reuters aufgedeckt, dass Meta seinen Chatbots große Freiheiten eingeräumt hatte, darunter auch "romantische oder sinnliche Gespräche" mit Minderjährigen.
Was haltet ihr von den neuen Kindersicherungen für ChatGPT? Reichen diese Maßnahmen aus oder braucht es noch strengere Kontrollen?
Wie funktioniert die Altersvorhersage?
OpenAI entwickelt ein System zur Altersvorhersage, das erkennen soll, ob ein Nutzer über oder unter 18 Jahre alt ist. Ziel ist es, ChatGPT altersgerecht anzupassen - mit jugendspezifischen Inhalten und Schutzmaßnahmen für Minderjährige.
Ist das Alter unklar, wird automatisch die sicherere Variante für unter 18-Jährige aktiviert. Erwachsene können ihr Alter nachweisen, um den vollen Funktionsumfang freizuschalten. Das System befindet sich noch in der Entwicklung und wird kontinuierlich verbessert.
Ist das Alter unklar, wird automatisch die sicherere Variante für unter 18-Jährige aktiviert. Erwachsene können ihr Alter nachweisen, um den vollen Funktionsumfang freizuschalten. Das System befindet sich noch in der Entwicklung und wird kontinuierlich verbessert.
Welche Inhalte werden für Jugendliche blockiert?
ChatGPT blockiert für Minderjährige Inhalte wie sexuelle, romantische oder gewaltverherrlichende Rollenspiele, extreme Schönheitsideale und sogenannte "Challenges", die gefährlich sein könnten.
Diese Filter greifen automatisch, sobald ein Konto als jugendlich erkannt oder entsprechend verknüpft wurde. Ziel ist es, Risiken zu minimieren und Jugendliche vor problematischen Einflüssen zu schützen.
Diese Filter greifen automatisch, sobald ein Konto als jugendlich erkannt oder entsprechend verknüpft wurde. Ziel ist es, Risiken zu minimieren und Jugendliche vor problematischen Einflüssen zu schützen.
Was können Eltern konkret einstellen?
Eltern können das Konto ihres Kindes mit dem eigenen verknüpfen und dann gezielt Funktionen einschränken - etwa die Bildgenerierung, den Sprachmodus oder die Gedächtnisfunktion von ChatGPT.
Zusätzlich lassen sich Sperrzeiten festlegen, in denen ChatGPT nicht nutzbar ist. Auch Benachrichtigungen bei potenziellen Krisensituationen sind möglich, ohne dass Eltern Zugriff auf den Chatverlauf erhalten.
Zusätzlich lassen sich Sperrzeiten festlegen, in denen ChatGPT nicht nutzbar ist. Auch Benachrichtigungen bei potenziellen Krisensituationen sind möglich, ohne dass Eltern Zugriff auf den Chatverlauf erhalten.
Wie sicher ist die Mitteilungsfunktion?
Die Mitteilungsfunktion informiert Eltern, wenn ChatGPT ernsthafte Probleme beim Kind vermutet - etwa bei Anzeichen von Suizidgedanken. Dabei wird nur das Nötigste geteilt, um die Sicherheit zu gewährleisten.
OpenAI betont, dass keine vollständigen Chatverläufe einsehbar sind, um die Privatsphäre der Jugendlichen zu wahren. Die Funktion wurde mit Experten für mentale Gesundheit entwickelt.
OpenAI betont, dass keine vollständigen Chatverläufe einsehbar sind, um die Privatsphäre der Jugendlichen zu wahren. Die Funktion wurde mit Experten für mentale Gesundheit entwickelt.
Was passiert bei akuten Notfällen?
In seltenen Fällen akuter Gefahr - etwa bei Suizidandrohung - kann ChatGPT Maßnahmen einleiten. Wenn Eltern nicht erreichbar sind, wird laut OpenAI möglicherweise die Polizei informiert.
Diese Eskalation erfolgt nur, wenn das System eine reale Gefahr erkennt. Ziel ist es, in Extremfällen schnell Hilfe zu leisten, ohne unnötig in die Privatsphäre einzugreifen.
Diese Eskalation erfolgt nur, wenn das System eine reale Gefahr erkennt. Ziel ist es, in Extremfällen schnell Hilfe zu leisten, ohne unnötig in die Privatsphäre einzugreifen.
Warum wurde der Jugendschutz verschärft?
Die neuen Maßnahmen sind eine Reaktion auf den Suizid eines 16-jährigen US-Jugendlichen. Die Eltern verklagten OpenAI, weil ChatGPT angeblich Hinweise zur Selbsttötung gegeben habe.
OpenAI räumte ein, dass frühere Schutzmechanismen nicht ausreichten, insbesondere bei langen Gesprächen. Die neuen Funktionen sollen solche tragischen Fälle künftig verhindern.
OpenAI räumte ein, dass frühere Schutzmechanismen nicht ausreichten, insbesondere bei langen Gesprächen. Die neuen Funktionen sollen solche tragischen Fälle künftig verhindern.
Wie unterscheidet sich ChatGPT für Jugendliche?
Für Nutzer unter 18 Jahren bietet ChatGPT eine angepasste Version mit strengeren Inhaltsfiltern, eingeschränkten Funktionen und einem Fokus auf Sicherheit und altersgerechten Antworten.
Auch das zugrunde liegende Modell kann sich unterscheiden: Bei sensiblen Themen kommt laut OpenAI ein spezielles GPT-5-Modell mit dem Zusatz chat-safety zum Einsatz.
Auch das zugrunde liegende Modell kann sich unterscheiden: Bei sensiblen Themen kommt laut OpenAI ein spezielles GPT-5-Modell mit dem Zusatz chat-safety zum Einsatz.
Wie steht es um Datenschutz und Privatsphäre?
OpenAI betont, dass die Privatsphäre von Jugendlichen respektiert wird. Eltern erhalten keine Einsicht in Chatverläufe, sondern nur sicherheitsrelevante Hinweise bei ernsten Problemen.
Die Datenweitergabe an OpenAI bleibt unabhängig vom Alter aktiv, es sei denn, Eltern deaktivieren bestimmte Funktionen wie die Gedächtnisfunktion manuell. Transparenz und Kontrolle sollen so ausgewogen wie möglich gestaltet werden.
Die Datenweitergabe an OpenAI bleibt unabhängig vom Alter aktiv, es sei denn, Eltern deaktivieren bestimmte Funktionen wie die Gedächtnisfunktion manuell. Transparenz und Kontrolle sollen so ausgewogen wie möglich gestaltet werden.
Zusammenfassung
- OpenAI führt umfassende Jugendschutzmaßnahmen nach einem Suizidfall ein
- Eltern können ab Ende September die Konten ihrer Kinder kontrollieren
- Gefährliche Inhalte wie Gewaltverherrlichung werden automatisch blockiert
- System soll Eltern über ernsthafte Probleme ihrer Kinder informieren
- Klage in den USA nach Suizid eines 16-Jährigen führte zu den Maßnahmen
- Nutzer unter 18 Jahren sollen künftig automatisch erkannt werden
- Kritiker fordern noch strengere Kontrollen für KI-Systeme im Jugendschutz
Siehe auch:
Thema:
Videos zum Thema OpenAI
-
Super Bowl 2026: OpenAI lässt uns mit Codex Neues erschaffen
-
Anthropic Claude macht sich über Werbung in ChatGPT lustig
-
Super Bowl 2025: OpenAI heißt uns im KI-Zeitalter willkommen
-
Microsoft stellt das neue Bing und vieles mehr für Windows 11 vor
HIGHLIGHT
-
Bing mit ChatGPT: Microsoft stellt seinen "Kopilot fürs Netz" vor
Beliebte OpenAI-Downloads
Interessante Links
Neue Nachrichten
- Aktuelle Technik-Blitzangebote von Amazon im Überblick
- The Witcher: CD Projekt plant angeblich neues Multiplayer-Spiel
- Forscher bauen aus alten Handys erstaunlich leistungsstarke Server
- Xbox-Exodus: Chef von Microsofts Spielestudios geht
- Galaxy A27: Samsung leakt sein neues Jedermann-Smartphone selbst
- Spiele als Dauerwerbesendung: EA plant Reklame 'direkt im Gameplay'
- Nutzen umstritten, UK bannt dennoch Social Media für Unter-16-Jährige
❤ WinFuture unterstützen
Sie wollen online einkaufen?
Dann nutzen Sie bitte einen der folgenden Links,
um WinFuture zu unterstützen:
Vielen Dank!
Amazon
Alle Kommentare zu dieser News anzeigen