ChatGPT erhält neue Schutzmechanismen für Jugendliche: OpenAI beginnt mit dem Rollout einer Altersvorhersage-Funktion für alle Verbraucherabonnements des KI-Chatbots. Ziel ist es, gezielt Accounts von Nutzern unter 18 Jahren zu erkennen und deren Nutzererlebnis sicherer zu gestalten. Die Maßnahme knüpft an bestehende Schutzsysteme an, bei denen Nutzer, die ihr Alter bei der Anmeldung mit unter 18 angeben, automatisch erhöhte Inhaltsfilter erhalten.
Die Altersvorhersage basiert auf einem Modell, das verschiedene Verhaltens- und Kontoinformationen analysiert. Dazu zählen etwa die Nutzungszeiten, wie lange ein Account schon existiert, Aktivitätsmuster über längere Zeiträume und die bei der Registrierung angegebene Altersangabe. OpenAI wertet diese Signale kontinuierlich aus, um die Genauigkeit des Modells zu verbessern.
Altersverifikation bei Fehleinschätzung möglich
Falls ein Nutzer fälschlich als minderjährig eingestuft wird, lässt sich das Nutzerprofil schnell und unkompliziert mittels einer Selfie-Verifikation über den Dienstleister Persona wieder freischalten. In den Kontoeinstellungen lässt sich jederzeit prüfen, ob altersbezogene Schutzmaßnahmen aktiv sind.
Wird ein Konto als potenziell minderjährig eingestuft, aktiviert ChatGPT automatisch zusätzliche Inhaltsfilter. Darunter fallen unter anderem Inhalte mit Gewalt- oder Selbstverletzungsdarstellungen, sexuelle oder romantische Rollenspiele, gefährliche virale Trends sowie problematische Schönheitsideale. Diese Vorgaben beruhen auf wissenschaftlichen Erkenntnissen zur Entwicklung von Jugendlichen sowie Expertenmeinungen und sollen die spezifische Risikowahrnehmung und emotionale Reaktion junger Menschen berücksichtigen.
Gewinnen in der Plattform-Ökonomie
Eltern erhalten mehr Kontrolle
Ergänzend bietet OpenAI Eltern neue Kontrollmöglichkeiten: Über ein separates Kontrollzentrum lassen sich unter anderem Ruhezeiten definieren, bei denen ChatGPT nicht genutzt werden kann. Außerdem können bestimmte Funktionen wie das Speichern von Chatverläufen deaktiviert oder Alarme bei auffälligem Verhalten gesetzt werden.
In der EU wird die Altersprognose-Funktion „in den kommenden Wochen“ eingeführt, um regulatorische Vorgaben zu erfüllen. OpenAI betont in einem Blogbeitrag, dass diese Einführung nur ein Schritt eines längerfristigen Prozesses ist. Die Zusammenarbeit mit Fachinstitutionen wie der American Psychological Association oder ConnectSafely soll kontinuierlich weiter ausgebaut werden.
