Algorithmen sind aus unserem Alltag nicht mehr wegzudenken. Ob im Gesundheitswesen, bei Kreditentscheidungen oder auf Vergleichsportalen – zunehmend verarbeiten automatisierte Systeme hochsensible Daten. Dabei geht es um Informationen, die tief in die Privatsphäre eingreifen, etwa über den Gesundheitszustand, die sexuelle Orientierung oder die politische Gesinnung. Für Verbraucher birgt das erhebliche Risiken.
Warum sensible Daten besonderen Schutz brauchen
Sensible Daten unterliegen dem besonderen Schutz der Datenschutz-Grundverordnung. Sie ermöglichen weitreichende Rückschlüsse auf die Identität und das Leben einer Person. Wer solche Daten verarbeitet, muss höchste Sicherheits- und Transparenzstandards einhalten. Doch das allein reicht nicht aus, kritisieren die Verbraucherzentralen: Es fehle an einer wirksamen Kontrolle der Algorithmen, die mit diesen Daten arbeiten.
Besondere Sorge bereitet der zunehmende Einsatz automatisierter Entscheidungssysteme. Diese entscheiden in vielen Fällen ohne menschliches Zutun – etwa darüber, ob jemand einen Kredit erhält oder für eine Stelle in Betracht gezogen wird. Das kann zu Diskriminierung führen, besonders wenn unklare oder fehlerhafte Daten die Grundlage bilden.
Gewinnen in der Plattform-Ökonomie
AI Act soll für mehr Transparenz sorgen – doch es hakt an der Umsetzung
Mit dem sogenannten AI Act hat die EU im August 2024 einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz geschaffen. Ziel ist es, gefährliche Anwendungen stärker zu regulieren. Je nach Risikopotenzial gelten dabei abgestufte Anforderungen: von der Pflicht zur Risikoanalyse bis hin zur laufenden Überwachung der Systeme.
Konkret bedeutet das: Anbieter müssen offenlegen, wie ihre KI funktioniert und welche Daten sie nutzt. Anwendungen, die direkt mit Verbrauchern interagieren – etwa Chatbots oder personalisierte Empfehlungen –, müssen deutlich als solche gekennzeichnet sein. Bereits seit Mai 2022 gelten zudem verschärfte Transparenzpflichten für Vergleichsportale.
Doch obwohl der AI Act klare Regeln vorgibt, bleibt vieles in der Praxis undurchsichtig. Die Verbraucherzentralen kritisieren, dass Unternehmen sich zu häufig auf Geschäftsgeheimnisse berufen, wenn es um die Offenlegung von Algorithmen geht. Dadurch bleiben viele Entscheidungen für Betroffene weiterhin eine Blackbox.
Verbraucherrechte stärken, Kontrolle ausbauen
Verbraucher haben laut Grundgesetz ein Recht auf informationelle Selbstbestimmung – also darauf, zu wissen und zu entscheiden, was mit ihren Daten geschieht. Damit dieses Recht nicht unter die Räder der digitalen Automatisierung gerät, fordern die Verbraucherzentralen eine konsequente Durchsetzung der KI-Verordnung, mehr Kontrolle durch Aufsichtsbehörden und gegebenenfalls auch verschärfte gesetzliche Vorgaben.
Denn eines ist klar: Algorithmen sind nur so gut wie die Daten, mit denen sie gefüttert werden – und wie verantwortungsvoll sie eingesetzt werden. Wenn es um Entscheidungen mit großer Tragweite geht, darf der Mensch nicht außen vor bleiben.
