Mit dem 2. Februar 2025 tritt eine weitere Stufe der EU-KI-Verordnung (AI Act) in Kraft. Neben dem Verbot bestimmter Hochrisiko-Anwendungen müssen Unternehmen sicherstellen, dass ihre Mitarbeiter über ausreichende KI-Kompetenz verfügen.
Striktere Regeln für den Einsatz von KI
Die EU setzt mit der neuen Stufe des AI Acts striktere Regelungen für den Einsatz künstlicher Intelligenz durch. Ab sofort sind KI-Systeme mit „unannehmbarem Risiko“ verboten – darunter etwa Social-Scoring-Modelle, die Bürger systematisch überwachen. Solche Anwendungen, wie man sie eher mit China in Verbindung bringt, wurden in der EU bislang zwar nicht genutzt, doch das Gesetz soll verhindern, dass sie künftig eingeführt werden.
Die automatische Gesichtserkennung in öffentlichen Räumen bleibt grundsätzlich verboten. Allerdings gibt es Ausnahmen für Strafverfolgungsbehörden: Polizei und andere Sicherheitsorgane dürfen entsprechende KI-Systeme unter bestimmten Bedingungen nutzen – etwa zur Bekämpfung von Terrorismus oder Menschenhandel.
Eine weitere wesentliche Neuerung betrifft die Nutzung von KI durch Mitarbeiter. Unternehmen müssen sicherstellen, dass ihr Personal über die notwendige Kompetenz verfügt, um KI-Systeme verantwortungsvoll einzusetzen. Laut Artikel 4 des AI Acts umfasst dies technische Kenntnisse, praktische Erfahrung sowie eine entsprechende Aus- und Weiterbildung. Auch der Kontext, in dem eine KI genutzt wird, muss verstanden werden.
Diese Regelung gilt für alle Unternehmen unabhängig von Größe oder Branche – ebenso für sämtliche KI-Anwendungen, egal ob sie als Hochrisiko- oder Niedrigrisiko-Modelle eingestuft sind. Unklar bleibt allerdings, wer genau als Betreiber eines KI-Systems gilt. Es ist nicht eindeutig geregelt, ob bereits die Nutzung eines externen KI-Tools wie ChatGPT eine Qualifikationspflicht nach sich zieht oder ob diese Regelung nur für Unternehmen gilt, die eigene KI-Systeme betreiben.
KI-Kompetenz als Voraussetzung für Nutzung
Anbieter und Betreiber von KI-Technologien müssen sicherstellen, dass ihre Mitarbeitenden über ausreichende KI-Kenntnisse verfügen.
Laut Artikel 4 der EU-KI-Verordnung müssen Unternehmen sicherstellen, dass ihr Personal über ein ausreichendes Maß an KI-Kompetenz verfügt. Dies betrifft nicht nur Entwickler und Betreiber von Hochrisiko-KI, sondern grundsätzlich alle Unternehmen, die KI-Systeme einsetzen. Die Regelung soll gewährleisten, dass Beschäftigte verantwortungsvoll mit der Technologie umgehen können.
Die KI-Kompetenz umfasst laut der Verordnung technische, rechtliche und ethische Aspekte. Wie genau diese Schulung aussehen muss, ist bislang jedoch nicht definiert. Unternehmen können daher auf strukturierte Weiterbildungen setzen, während ein einfaches Selbststudium nach Ansicht der Bundesnetzagentur nicht ausreicht.
Bislang sind keine unmittelbaren Strafen vorgesehen, wenn Mitarbeiter die geforderte Kompetenz nicht nachweisen können. Sanktionen werden ohnehin erst mit einer späteren Umsetzungsstufe ab dem 2. August 2025 relevant. Erst dann müssen die EU-Mitgliedsstaaten nationale Behörden benennen, die für die Durchsetzung des AI Acts zuständig sind. In Deutschland ist eine solche Stelle bisher nicht benannt, doch voraussichtlich wird die Bundesnetzagentur diese Aufgabe übernehmen.
Unterstützung und Orientierung für Unternehmen
Viele Unternehmen stehen vor der Herausforderung, die neuen Anforderungen zu erfüllen. Laut Umfragen sind die meisten Unternehmen eher unvorbereitet.
Da es in Deutschland noch kein nationales Durchführungsgesetz zur KI-Verordnung gibt, existiert bislang keine zentrale Anlaufstelle für Unternehmen. Die Bundesnetzagentur arbeitet jedoch an einem Informationsangebot. Zudem bieten Organisationen wie die Mittelstand-Digital Zentren oder der Digitalverband Bitkom Unterstützung an. Auch die EU hat eine offizielle Webseite zum AI Act veröffentlicht.