OpenAI hat eine neue Kinderschutzfunktion für ChatGPT eingeführt. Eltern können künftig gezielt festlegen, welche Inhalte für Kinder und Jugendliche sichtbar sind und wie der Chat genutzt werden darf. Die Jugendschutz-Einstellungen lassen sich direkt im Konto aktivieren.
ChatGPT ist inzwischen über zahlreiche Wege erreichbar – ob über den Browser, per App oder im direkten Chat über WhatsApp. Das macht den KI-Chatbot vor allem auch für die besonders junge Zielgruppe sehr einfach zugänglich.
Insgesamt haben im Jahr 2024 bereits 57 Prozent der Jugendlichen ChatGPT genutzt. Inzwischen dürfte die Zahl deutlich angestiegen sein.
Du willst nicht abgehängt werden, wenn es um KI, Green Tech und die Tech-Themen von Morgen geht? Über 10.000 Vordenker bekommen jeden Tag die wichtigsten News direkt in die Inbox und sichern sich ihren Vorsprung.
Nur für kurze Zeit: Anmelden und mit etwas Glück 100€ Amazon-Guthaben gewinnen!
Mit deiner Anmeldung bestätigst du unsere Datenschutzerklärung. Beim Gewinnspiel gelten die AGB.
Doch wie auch bei sozialen Netzwerken, birgt auch die ungefilterte Nutzung von KI-Chatbots Risiken für Kinder und Jugendliche. OpenAI hat aus diesem Grund nun Funktionen für den Jugendschutz bei ChatGPT eingeführt.
Darum braucht ChatGPT eine Kindersicherung
Über die neuen Funktionen der Kindersicherung können Eltern künftig ihre ChatGPT-Konten mit denen ihrer Kinder direkt verknüpfen. So lassen sich dann auch Einstellungen „für ein sicheres, altersgerechtes Erlebnis“ vornehmen, wie es in einer Mitteilung von OpenAI heißt.
„Diese Kindersicherungen sind ein guter Ausgangspunkt für Eltern, um die ChatGPT‑Nutzung ihrer Teenager zu begleiten“, erklärt Robbie Torney von der US-Nonprofit Common Sense Media. „Kindersicherungen sind nur ein Teil des Puzzles, wenn es darum geht, Teenager online zu schützen – sie wirken am besten in Kombination mit laufenden Gesprächen über verantwortungsvolle KI-Nutzung, klaren Familienregeln zur Technologie und aktiver Beteiligung am Verständnis dessen, was ihr Teenager online tut.“
Die NPO Common Sense Media, die in den USA Medien und Technologien bezüglich der Eignung für Kinder bewertet, war an der Entwicklung der neuen Kindersicherung bei ChatGPT beteiligt. Auch die Generalstaatsanwälte von Kalifornien und Delaware hat OpenAI mit einbezogen.
So kannst du den Jugendschutz bei ChatGPT aktivieren
Um den Jugendschutz bei ChatGPT zu aktivieren, müssen Eltern oder erziehungsberechtigte Personen zunächst eine Einladung an ihre Kinder senden. Wird diese Einladung angenommen, sind die Konten verbunden.
Damit erhält das Kinder-Konto nach der Verknüpfung automatisch zusätzliche Inhaltsschutzmaßnahmen. So werden grafische Inhalte, extreme Schönheitsideale und virale Challenges sowie sexuelle, romantische oder gewalttätige Rollenspiele eingeschränkt. OpenAI will so „ein altersgerechtes Nutzungserlebnis“ bei ChatGPT gewährleisten.
Zusätzlich haben Eltern nach der Verknüpfung Zugriff auf die Einstellungen des Kontos und können diese verwalten. So können künftig beispielsweise Ruhezeiten oder bestimmte Nutzungszeiten festgelegt werden.
Eltern können außerdem den Audiomodus und somit die Sprachsteuerung von ChatGPT deaktivieren. Auch die Bildgenerierung kann abgeschaltet werden.
Künftig können Eltern auch das Modelltraining für die Konten ihrer deaktivieren. Somit werden die Gespräche mit den Kindern und Jugendlichen nicht zur Verbesserung der Modelle hinter ChatGPT verwendet.
Benachrichtigungen für Eltern
Zusätzlich können Eltern Benachrichtigungen in der Kindersicherung aktivieren. Dieses informiert Eltern, „wenn möglicherweise etwas ernsthaft nicht stimmt“, heißt es von OpenAI. Dafür arbeite der Konzern mit Experten für psychische Gesundheit zusammen.
Dafür wurden Schutzmechanismen in ChatGPT ergänzt, die potenzielle Gefährdungen feststellen können. Schlägt das System an, werden diese dann noch einmal von einem „Team speziell geschulter Personen“ überprüft. Im Zweifelsfall erhalten Eltern dann eine Information per E-Mail, SMS oder Push-Benachrichtigung auf ihrem Telefon.
Der Datenschutz werde laut OpenAI dennoch gewahrt. Es würden nur die Informationen weitergegeben, „die Eltern oder Notfalldienste benötigen, um die Sicherheit des Teenagers zu schützen“.
Auch interessant:
