Die EU-Mitgliedstaaten haben am Dienstag im Ministerrat den AI Act beschlossen, der einen einheitlichen Regulierungsrahmen für künstliche Intelligenz (KI) in Europa schaffen soll. Die Verordnung könnte bereits Ende Juni oder Anfang Juli in Kraft treten, wobei Unternehmen spätestens sechs Monate später erste Regelungen einhalten müssen. Das Gesetz, das weltweit erste seiner Art, könnte einen globalen Standard für die Regulierung von KI setzen.
Das Gesetz soll sicherstellen, dass KI-Systeme möglichst transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein zentraler Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht ausschließlich von anderen Technologien. Die Verordnung gilt für alle Unternehmen, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen.
Besonders risikoreiche Systeme, wie jene in kritischen Infrastrukturen oder im Bildungs- und Gesundheitswesen, müssen künftig strenge Anforderungen erfüllen. Anwendungen wie das Social Scoring, ähnlich dem chinesischen System, sowie Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen werden verboten.
Die Gesichtserkennung im öffentlichen Raum bleibt grundsätzlich untersagt, allerdings erlaubt die Verordnung Ausnahmen für Polizei und andere Sicherheitsbehörden. Bundesdigitalminister Volker Wissing betonte die Notwendigkeit einer kontinuierlichen Anpassung der Regulierung angesichts der sich schnell entwickelnden Technologie.
Dr. Ralf Wintergerst, Präsident des Bitkom, begrüßt die Entscheidung, weist jedoch auf offene Fragen hin: „Mit der heutigen Entscheidung nimmt der AI Act die letzte formale Hürde. Europa gibt damit einen EU-weiten Regulierungsrahmen für Künstliche Intelligenz vor, der AI Act ist in Deutschland unmittelbar geltendes Recht. Allerdings lässt der AI Act wesentliche Fragen offen, in Deutschland und den anderen EU-Ländern beginnt die Regulierungsarbeit jetzt erst. Ob KI in Deutschland und Europa einen Schub erhält oder vor allem vor neue Hindernisse gestellt wird, hängt entscheidend davon ab, wie dieser Rahmen ausgestaltet und die Regelungen in Deutschland umgesetzt werden. Wir müssen Raum lassen für KI-Innovationen, die den Menschen dienen. Ziel muss sein, den Einsatz von KI in Wirtschaft, Verwaltung und Gesellschaft voranzubringen. Erst 13 Prozent der Unternehmen setzen KI ein, weitere 33 Prozent planen oder diskutieren es. Die Umsetzung des AI-Acts muss dafür sorgen, dass KI in Deutschland erfolgreich entwickelt und umfassend eingesetzt wird. Dafür braucht es u.a. praxisnahe Hilfestellungen der Behörden.“
Wintergerst fordert zudem eine rasche Einrichtung des angekündigten AI-Office durch die EU-Kommission. Dieses soll die Anforderungen für sogenannte General Purpose AI Models umsetzen. Angesichts der Tatsache, dass diese bereits Mitte des kommenden Jahres wirksam werden sollen, betont Wintergerst die Notwendigkeit einer bürokratiearmen und praxisnahen Gestaltung der Regulierung. Dies gelte auch für weitere Richtlinien, die noch erarbeitet werden müssen, um Doppelregulierung zu vermeiden und dauerhafte Rechtssicherheit zu schaffen.
Die Bundesregierung wird aufgefordert, zügig einen Vorschlag für ein nationales Durchführungsgesetz vorzulegen, um den Unternehmen Klarheit über kommende Verpflichtungen zu geben. Dabei dürfe das nationale Regulierungskorsett nicht zu eng geschnürt werden. Auch die Frage nach einer zentralen Aufsichtsbehörde und deren Ausstattung mit Personal und finanziellen Ressourcen müsse dringend geklärt werden.
Nach der Bestätigung der EU-Länder werden die neuen Regeln im Amtsblatt veröffentlicht und treten 20 Tage später in Kraft. Zwei Jahre nach ihrem Inkrafttreten sollen sie dann gelten. Bei Nichteinhaltung drohen den Unternehmen Sanktionen wie Geldstrafen. Privatpersonen können Verstöße melden, woraufhin nationale Behörden Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.
