Die Europäische Kommission beginnt am 2. August 2026 mit der Durchsetzung des in 2024 beschlossenen AI-Act und führt gleichzeitig neue Transparenzanforderungen für den Einsatz von Künstlicher Intelligenz ein. Ziel ist es, Täuschung und Manipulation zu verhindern sowie Vertrauen in den Einsatz von KI-Systemen zu stärken.
Neue Transparenzregeln für KI-Inhalte
Wie die EU-Kommission am Freitag betont, müssen Nutzer künftig klar erkennen können, ob sie mit einer KI interagieren oder ob Inhalte durch künstliche Systeme erzeugt oder verändert wurden. Chatbots und andere interaktive Anwendungen sind verpflichtet, ihre künstliche Natur offenzulegen.
Auch sogenannte Deepfakes müssen eindeutig gekennzeichnet werden. Darüber hinaus sind Anbieter verpflichtet, KI-generierte Inhalte mit maschinenlesbaren Markierungen zu versehen, um deren Identifikation zu erleichtern. Ziel dieser Maßnahmen ist es, die Nachvollziehbarkeit digitaler Inhalte deutlich zu erhöhen.
Gewinnen in der Plattform-Ökonomie
Strengere Vorgaben für leistungsfähige KI-Modelle
Die neuen Regeln betreffen insbesondere Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die in vielen Anwendungen eingesetzt werden können. Für besonders leistungsfähige Systeme gelten zusätzliche Anforderungen, wenn sie potenziell systemische Risiken darstellen.
Dazu zählen unter anderem Gefahren durch Manipulation, Cyberkriminalität oder Risiken für grundlegende Rechte. Anbieter müssen entsprechende Sicherheitsmaßnahmen ergreifen, Risiken bewerten und dokumentieren sowie Informationen für Behörden und Partner bereitstellen.
Dokumentations- und Urheberrechtspflichten
Ein zentraler Bestandteil der Regulierung ist die Pflicht zur Transparenz über Trainingsdaten und Modellarchitekturen. Anbieter müssen dokumentieren, wie ihre Systeme entwickelt wurden, und eine Zusammenfassung der verwendeten Inhalte veröffentlichen.
Zudem sind sie verpflichtet, eine klare Urheberrechtspolitik zu etablieren. Damit soll sichergestellt werden, dass Rechteinhaber besser nachvollziehen können, wie ihre Inhalte im Training von KI-Systemen genutzt werden.
Verbot besonders riskanter KI-Anwendungen
Parallel zur Transparenz verschärft die EU auch das Vorgehen gegen besonders schädliche KI-Praktiken. Systeme, die Menschen manipulieren, Schwachstellen gezielt ausnutzen oder Personen unfair bewerten, sind künftig untersagt.
Diese Regelungen zielen darauf ab, grundlegende Rechte zu schützen und den Missbrauch von KI-Technologien zu verhindern. Die Einhaltung wird sowohl auf europäischer als auch auf nationaler Ebene überwacht.
Koordinierte Durchsetzung in der EU
Die Umsetzung der Vorschriften erfolgt durch mehrere Institutionen. Das neu geschaffene Amt für künstliche Intelligenz der EU übernimmt eine zentrale Rolle, insbesondere bei großen Plattformen und Anbietern von KI-Modellen. Nationale Behörden wie die Bundesnetzagentur sowie der Europäische Datenschutzbeauftragte ergänzen die Aufsicht.
Unterstützt wird die Regulierung durch ein wissenschaftliches Expertengremium sowie neue Melde- und Beschwerdeinstrumente für Unternehmen und Bürger. Diese sollen Verstöße leichter identifizierbar machen und die Durchsetzung der Regeln verbessern.
Weitere Schritte bis 2028 geplant
Die Regulierung wird schrittweise erweitert. Vorschriften für Hochrisiko-KI-Systeme treten erst in den kommenden Jahren vollständig in Kraft. Zudem werden zusätzliche Verbote eingeführt, etwa für die Erstellung nicht einvernehmlicher expliziter Inhalte durch KI.
Mit dem KI-Gesetz verfolgt die EU das Ziel, Innovation und Sicherheit miteinander zu verbinden. Unternehmen erhalten klare Vorgaben, während Verbraucher besser geschützt und informiert werden sollen.
