OpenAI führt mit „ChatGPT for Teens“ eine eigene Version seines KI-Assistenten für Jugendliche ein. Nutzer zwischen 13 und 17 Jahren sollen automatisch in die stärker geschützte Umgebung wechseln. Das gilt auch, wenn OpenAIs Altersprognose einen Nutzer als minderjährig einstuft.
Das Angebot bündelt Lernfunktionen mit strengeren Vorgaben für sensible Inhalte und zusätzlichen Kontrollmöglichkeiten für Eltern. OpenAI baut damit bereits eingeführte Maßnahmen wie Altersprognosen, Elternkontrollen und besondere Modellregeln für Minderjährige weiter aus.
Study Mode soll Abkürzungen bei Hausaufgaben bremsen
Ein Schwerpunkt liegt laut OpenAI auf dem Lernen. Der Study Mode führt Jugendliche mit Fragen, Zwischenschritten und Verständnisprüfungen durch Aufgaben, anstatt lediglich fertige Antworten bereitzustellen.
Neu sind Hinweise, wenn das System erkennt, dass Nutzer möglicherweise versuchen, eine Schulaufgabe von der KI erledigen zu lassen. ChatGPT soll sie dann stärker zum schrittweisen Arbeiten im Study Mode bewegen. Ergänzt wird das Angebot durch Quizze und Lernvisualisierungen.
Mit „Study Hours“ können Jugendliche oder Eltern außerdem Zeiträume festlegen, in denen der Lernmodus standardmäßig eingeschaltet ist. OpenAI betont zugleich, dass die Anwendung Lehrkräfte nicht ersetzen soll.
Gewinnen in der Plattform-Ökonomie
Strengere Regeln für Minderjährige
Für Nutzer unter 18 Jahren gelten standardmäßig zusätzliche Schutzmechanismen. Sie betreffen unter anderem Selbstverletzung, Essstörungen, Gewalt, gefährliche Aktivitäten sowie explizite sexuelle oder drastische Inhalte.
Auch die Art der Kommunikation wird stärker eingeschränkt. ChatGPT soll gegenüber Jugendlichen keine romantische Sprache verwenden, emotionale Abhängigkeit fördern oder den Eindruck erwecken, selbst Gefühle oder ein Bewusstsein zu besitzen.
Pausenerinnerungen sollen zudem eine ausgewogenere Nutzung fördern. Vor dem Hochladen möglicherweise privater oder sensibler Bilder erhalten Jugendliche zusätzliche Warnhinweise.
Eltern erhalten zusätzliche Kontrollen
Bei verknüpften Konten können Eltern ausgewählte Einstellungen verwalten und Ruhezeiten festlegen. In begrenzten Situationen mit erhöhtem Risiko sind Sicherheitsbenachrichtigungen vorgesehen. OpenAI erweitert diese nun auch um Hinweise im Zusammenhang mit Essstörungen.
Ein spezielles Onboarding soll Jugendlichen von Beginn an erklären, welche Lern- und Sicherheitsfunktionen zur Verfügung stehen. Personalisierungen wie unterschiedliche Farben und Stimmen bleiben möglich, sollen aber die Grenze zwischen einem KI-Werkzeug und einer menschlichen Beziehung nicht verwischen.
OpenAI baut Jugendschutz aus
Parallel will OpenAI die Schutzmechanismen für Minderjährige weiter untersuchen und Ergebnisse veröffentlichen. Neue Evaluationen überprüfen das Verhalten der Modelle unter anderem bei Selbstverletzung, Essstörungen, Gewalt, altersbeschränkten Produkten und sexuellen Inhalten.
Mit ChatGPT for Teens fasst OpenAI damit mehrere zuvor einzeln eingeführte Maßnahmen in einem eigenen Angebot zusammen. Der Konzern versucht zugleich, zwei Ziele miteinander zu verbinden: Jugendlichen Zugang zu leistungsfähiger generativer KI zu geben und die Risiken durch ungeeignete Inhalte, problematische Bindung an Chatbots oder die automatisierte Erledigung von Schulaufgaben stärker zu begrenzen.
