Die Bundesregierung steht in der Kritik, weil sie eine zentrale Vorgabe der EU-KI-Verordnung nicht fristgerecht umgesetzt hat. Der Verbraucherzentrale Bundesverband (vzbv) beanstandet, dass es in Deutschland noch immer keine zuständige Aufsichtsbehörde gibt, obwohl diese laut EU-Vorgabe bis spätestens 2. August 2025 eingerichtet sein müsste. Damit fehlt eine zentrale Kontrollinstanz, die gewährleisten soll, dass Unternehmen den rechtlichen Rahmen bei der Nutzung von Künstlicher Intelligenz einhalten.

Verbot schädlicher KI-Praktiken ohne Überwachung

Bereits seit Februar 2025 sind laut europäischer KI-Verordnung bestimmte KI-Praktiken verboten, darunter manipulative Anwendungen oder das gezielte Ausnutzen von Schwächen besonders schutzbedürftiger Verbrauchergruppen. Diese Vorgaben sollen die Grundrechte sichern – darunter Menschenwürde, Gleichbehandlung und Verbraucherschutz. Ohne nationale Kontrollstelle können Verstöße derzeit jedoch nicht wirksam geahndet werden.

Gewinnen in der Plattform-Ökonomie

von Alexander Graf – der Leitfaden für Handelsentscheider

★★★★☆ 4,4 / 5 Sterne

Jetzt bei Amazon entdecken

vzbv warnt vor Risiken für Verbraucher

„Die Bundesregierung ist in der Pflicht, Verbraucherinnen und Verbraucher vor verbotenen KI-Praktiken zu schützen“, erklärt Lina Ehrig, Leiterin des Teams Digitales und Medien beim vzbv. Die Realität sehe anders aus: Verbraucher seien Manipulation, Diskriminierung und Betrug ausgesetzt – etwa durch Stimmanalyse in Callcentern, bei denen KI individuelle Schwächen in Echtzeit ausnutzt. Die fehlende Kontrolle sorge für Unsicherheit und könne finanzielle Schäden verursachen.

Vorschläge für eine verbraucherfreundliche KI-Aufsicht

Der vzbv fordert daher eine unabhängige und verbraucherorientierte Aufsicht. Dazu zählt ein zentrales Beschwerdeportal, bei dem sich Betroffene melden können, sowie eine begleitende Informations- und Unterstützungsfunktion für Verbraucher über das gesamte Verfahren hinweg. Zusätzlich solle ein nationaler Beirat etabliert werden, in dem auch zivilgesellschaftliche Perspektiven wie der Verbraucherschutz vertreten sind.

Hintergrund zur KI-Verordnung

Die europäische KI-Verordnung trat im August 2024 in Kraft und schreibt seit Februar 2025 das Verbot bestimmter riskanter KI-Anwendungen vor. Ziel ist der Schutz von Individuen vor systematischem Missbrauch durch KI-Systeme. Eine funktionierende Aufsichtsstruktur auf nationaler Ebene ist ein zentrales Element dieser Regulierung – in Deutschland fehlt sie bislang.