Die Unabhängige Expertenkommission „Kinder- und Jugendschutz in der digitalen Welt“ fordert eine umfassendere Strategie für den Schutz junger Menschen im digitalen Raum. In ihrem Abschlussbericht formuliert das Gremium 56 Empfehlungen, die Regulierung, Bildung, technische Schutzmaßnahmen und die Beteiligung von Kindern und Jugendlichen stärker miteinander verzahnen sollen.
Leitgedanke ist die Verbindung von Schutz, Befähigung und Teilhabe. Kinder sollen vor Risiken geschützt werden, zugleich aber digitale Medien und künstliche Intelligenz selbstständig, kritisch und kompetent nutzen können. Verantwortung soll dabei nicht allein bei Eltern und jungen Nutzern liegen, sondern stärker bei Plattformbetreibern, Politik, Schulen und weiteren Institutionen.
Digitale Medien und KI prägen den Alltag früh
Der Bericht zeigt, wie selbstverständlich digitale Technologien bereits zum Alltag gehören. 46 Prozent der Sechs- bis 13-Jährigen und 95 Prozent der 13- bis 19-Jährigen besitzen demnach ein eigenes Smartphone.
Besonders dynamisch entwickelt sich die Nutzung künstlicher Intelligenz. 84 Prozent der 12- bis 19-Jährigen verwenden laut Bericht bereits ChatGPT; 2024 waren es 57 Prozent. Weitere Dienste wie Gemini, Copilot, Meta AI oder Snapchat My AI sind ebenfalls verbreitet.
Die Kommission warnt deshalb vor einer Debatte, die sich ausschließlich auf Bildschirmzeiten oder pauschale Verbote konzentriert. Entscheidend seien unter anderem Alter, Entwicklungsstand, Nutzungsart und die konkrete Gestaltung digitaler Angebote.
Gewinnen in der Plattform-Ökonomie
Plattformdesign wird selbst zum Jugendschutzthema
Neben klassischen problematischen Inhalten rücken zunehmend Risiken in den Mittelpunkt, die direkt aus Plattformmechanismen entstehen. Empfehlungsalgorithmen, endlose Feeds, Autoplay und permanente Benachrichtigungen können intensive Nutzung fördern.
Hinzu kommen Gefahren wie Cybermobbing, Grooming, Sextortion, Hassrede, Desinformation, Glücksspiel, Betrug oder manipulative Kaufanreize. Die Experten sehen deshalb Medienkompetenz allein nicht als ausreichend an.
Plattformen sollen sichere und altersgerechte Einstellungen künftig stärker nach den Prinzipien „Safety by Design“ und „Safety by Default“ umsetzen. Schutzfunktionen müssten bereits Bestandteil der Produktentwicklung sein und dürften nicht davon abhängen, ob Eltern komplizierte Einstellungen selbst vornehmen.
Keine einheitliche Verbotslinie für Social Media
Für soziale Netzwerke beschreibt die Kommission zwei denkbare Regulierungsmodelle. Eine Variante sieht ein Mindestalter von 13 Jahren für eigenständig genutzte Social-Media-Accounts vor, kombiniert mit abgestuften Schutzstandards bis zum 18. Lebensjahr.
Alternativ könnten Altersbeschränkungen stärker an einzelnen Funktionen und deren Risiken ausgerichtet werden. Offene Kontaktmöglichkeiten, algorithmische Feeds oder Livestreams könnten dann strengeren Regeln unterliegen als weniger problematische Angebote.
Von rein nationalen Alleingängen rät die Kommission ab. Viele Plattformen arbeiten grenzüberschreitend, weshalb wesentliche Schutzmechanismen möglichst auf europäischer Ebene abgestimmt und bestehende Regelwerke konsequenter durchgesetzt werden sollten.
Schulen sollen Medien- und KI-Kompetenz systematisch vermitteln
Ein Schwerpunkt liegt auf Bildung. Medienpädagogik soll verbindlicher in Schulen und in der Ausbildung von Lehrkräften, Erziehern und sozialpädagogischen Fachkräften verankert werden.
Bereits in der Grundschule soll digitale Bildung stärker beginnen. Zu den auffälligsten Vorschlägen gehört ein sogenanntes „KI-Seepferdchen“, mit dem Kinder früh grundlegende Kompetenzen im Umgang mit künstlicher Intelligenz erwerben sollen.
Dazu gehört, zu verstehen, wie KI-Systeme grundsätzlich arbeiten, wo ihre Grenzen liegen und wie Ergebnisse kritisch eingeordnet werden können. Später soll daraus umfassendere Algorithmus- und KI-Kompetenz entstehen.
KI wird zum neuen Schwerpunkt des Jugendschutzes
Generative KI zieht sich durch zahlreiche Empfehlungen des Berichts. Besonders kritisch betrachtet die Kommission Anwendungen, die emotionale oder soziale Beziehungen simulieren. Für sogenannte AI Companions wird als kurzfristige Maßnahme eine Altersgrenze vorgeschlagen.
Auch der Schutz vor Deepfakes und insbesondere sexualisierten Deepnudes soll verbessert werden. Gleichzeitig fordert die Kommission nicht nur Einschränkungen, sondern auch kindgerechte KI-Angebote und vertrauenswürdige europäische Plattform- und Dateninfrastrukturen.
Der Digitalverband Bitkom unterstützt grundsätzlich die Kombination aus Schutz, Befähigung und Teilhabe. Der Digitalverband fordert vor allem stärkere Medien- und Digitalkompetenz in Schulen, bessere Unterstützung für Eltern und Lehrkräfte sowie eine konsequentere Durchsetzung bestehender europäischer Regeln.
Der Abschlussbericht versteht seine 56 Empfehlungen damit nicht als einzelne Verbotsmaßnahmen, sondern als Gesamtstrategie. Digitale Angebote sollen sich stärker an den Rechten und Entwicklungsbedürfnissen junger Menschen orientieren, während Bildung, Regulierung und technische Schutzmechanismen parallel weiterentwickelt werden.
