Die Europäische Kommission und das Gremium der Koordinatoren für digitale Dienste haben ihren ersten Bericht zur Risikolandschaft im Rahmen des Gesetzes über digitale Dienste (Digital Services Act, DSA) veröffentlicht. Der rund 40-seitige Bericht (PDF) analysiert systemische Risiken auf sehr großen Online-Plattformen (VLOPs) und Suchmaschinen (VLOSEs) in der EU und gilt als weltweite Premiere.
Im Fokus stehen insbesondere wiederkehrende Risiken wie die Verbreitung illegaler Inhalte, Bedrohungen für Grundrechte sowie neue Herausforderungen durch generative KI. Der Bericht bildet den Auftakt eines jährlichen Zyklus und soll langfristig ein umfassenderes Bild der digitalen Risikolandschaft in Europa liefern.
Psychische Gesundheit und Minderjährige besonders betroffen
Zu den am häufigsten hervorgehobenen Risikofeldern zählen der Schutz Minderjähriger und die psychische Gesundheit. Plattformen sind mit Herausforderungen wie selbstverletzendem Verhalten, süchtig machendem Design oder gefährlichen Trends konfrontiert, die besonders junge Nutzer treffen. Auch geschlechtsspezifische Gewalt im digitalen Raum, wie Cyberstalking oder Deepfake-Pornografie, wird thematisiert.
Gewinnen in der Plattform-Ökonomie
Generative KI als neuer Risikofaktor
Die zunehmende Integration generativer KI-Technologien auf Plattformen wirft zusätzliche Fragen auf. Risiken bestehen insbesondere durch Deepfakes, automatisiert erzeugte Falschinformationen oder sogar KI-generierte Darstellungen von Missbrauch. Diese Entwicklungen verschärfen bestehende Probleme im Bereich Desinformation und Datenschutz.
Verstöße gegen geistige Eigentumsrechte auf Marktplätzen
Ein weiteres zentrales Thema sind systemische Verletzungen geistiger Eigentumsrechte. Online-Marktplätze und App-Stores werden weiterhin als Hauptorte für den Vertrieb gefälschter oder nicht konformer Produkte genannt. Die Europäische Kommission hebt hervor, dass Plattformen hier stärker kontrollieren und Maßnahmen zur Verhinderung illegaler Angebote verstärken müssen.
Milderungsmaßnahmen: Emojis, Warnhinweise und Empfehlungssysteme
Zur Risikominderung setzen viele Plattformen auf technische und organisatorische Maßnahmen. Dazu zählen etwa automatisierte Systeme zur Erkennung kodierter Sprache – wie Emojis, die als Ersatz für Begriffe aus dem Drogenhandel genutzt werden – sowie Interface-Designs, die gefährliche Funktionen wie Autoplay oder endloses Scrollen für Jugendliche abschalten.
Empfehlungssysteme können so eingestellt werden, dass sie problematische Inhalte herabstufen oder Nutzern mehr Kontrolle über personalisierte Feeds geben. Für generative Inhalte werden Wasserzeichen und Fact-Checking-Labels empfohlen. In der Werbung sollen strengere Kontrollen und ein Verbot personalisierter Anzeigen an Minderjährige greifen.
Transparenz und Forschung als Schlüssel für den Fortschritt
Die im Bericht genannten Maßnahmen basieren auf Eigenangaben der Plattformen sowie unabhängigen Studien und Beiträgen aus der Zivilgesellschaft. Zukünftige Berichte sollen verstärkt auf empirische Erkenntnisse und den durch den DSA ermöglichten Datenzugang zurückgreifen. Ziel ist es, wirksame Strategien zur Risikominimierung evidenzbasiert zu bewerten und weiterzuentwickeln.
Der Bericht ist ein zentraler Baustein für mehr Transparenz und Rechenschaftspflicht in der digitalen Welt. Als Referenzrahmen unterstützt er Regulierer, Plattformen und die Öffentlichkeit dabei, systemische Risiken besser zu verstehen – und schrittweise ein sichereres, vertrauenswürdigeres Internet in der EU zu schaffen.
