Am 1. August 2024 tritt das Europäische Gesetz über künstliche Intelligenz (KI-Gesetz), der AI Act, in Kraft. Das Gesetz ist die weltweit erste umfassende Verordnung für künstliche Intelligenz. Ziel des KI-Gesetzes ist es, sicherzustellen, dass KI-Systeme in der EU vertrauenswürdig sind und die Grundrechte der Menschen schützen. Die Verordnung soll zudem einen harmonisierten Binnenmarkt für KI schaffen, die Einführung dieser Technologie fördern und ein günstiges Umfeld für Innovationen und Investitionen schaffen.
Risikobasierter Ansatz des AI Act
Das KI-Gesetz verwendet einen risikobasierten Ansatz, um verschiedene Arten von KI-Systemen zu regulieren:
- Minimales Risiko: Systeme wie Empfehlungssysteme und Spamfilter fallen in diese Kategorie und unterliegen keinen besonderen Verpflichtungen.
- Spezifisches Transparenzrisiko: Systeme wie Chatbots müssen Nutzer darüber informieren, dass sie mit einer Maschine interagieren. Inhalte wie Deepfakes müssen klar gekennzeichnet sein.
- Hohes Risiko: Systeme wie KI-gestützte Rekrutierungsprozesse müssen strenge Anforderungen erfüllen, darunter Risikominderung, menschliche Aufsicht und Cybersicherheit.
- Unannehmbares Risiko: Systeme, die als Bedrohung für die Grundrechte angesehen werden, wie etwa manipulative Spielzeuge oder soziale Bewertungssysteme, sind verboten.
Im Kern bedeutet dies, dass die Verordnung die meisten KI-Anwendungen als risikoarm oder risikofrei klassifiziert, wodurch sie nicht unter die Regelung fallen. Ein kleiner Teil potenzieller KI-Nutzungen, wie Biometrics und Gesichtserkennung oder KI in den Bereichen Bildung und Beschäftigung, wird als hochriskant eingestuft. Diese Systeme müssen in einer EU-Datenbank registriert werden, und ihre Entwickler müssen sicherstellen, dass sie den Anforderungen an Risikomanagement und Qualitätssicherung entsprechen.
Eine dritte Kategorie umfasst KI-Technologien mit begrenztem Risiko, wie Chatbots oder Tools zur Erstellung von Deepfakes. Diese müssen bestimmte Transparenzanforderungen erfüllen, um sicherzustellen, dass Nutzer nicht getäuscht werden.
Was Unternehmen jetzt wissen sollten
Für Unternehmen ist es nun entscheidend, sich auf das neue Gesetz vorzubereiten. Es betrifft alle, die künstliche Intelligenz (KI) entwickeln, verkaufen, nutzen oder an Verbraucher weitergeben. Der AI Act umfasst die gesamte Wertschöpfungs- und Nutzungskette. Verstöße gegen das Gesetz können mit Bußgeldern von bis zu sieben Prozent des weltweiten Jahresumsatzes oder maximal 35 Millionen Euro geahndet werden.
Die meisten Vorschriften treten am 2. August 2026 in Kraft, Verbote für unannehmbare Risiken gelten jedoch bereits nach sechs Monaten. Der KI-Pakt der Kommission soll den Übergangszeitraum überbrücken und Entwickler ermutigen, die Vorschriften freiwillig zu übernehmen.
Die Durchsetzung des KI-Gesetzes wird von mehreren Gremien unterstützt, darunter der Europäische Ausschuss für künstliche Intelligenz und ein wissenschaftliches Expertengremium. Die Mitgliedstaaten haben zudem bis zum 2. August 2025 Zeit, zuständige Behörden zu benennen, die die Vorschriften überwachen. In Deutschland wird aller Voraussicht nach die Bundesnetzagentur, ähnlich wie bei dem Digital Services (DSA), die Aufsicht übernehmen.
Die EU-Kommission stellt ein erstes FAQ-Dokument zur Verfügung. Auch das gesamte Gesetz kann bei EUR-Lex, der offiziellen Plattform für EU-Gesetze, gelesen werden.
Was es für Entwickler von KI-Systemen bedeutet
Eine weitere wichtige Komponente des Gesetzes betrifft Entwickler sogenannter allgemeiner KI-Systeme (GPAIs). Auch hier verfolgt die EU einen risikobasierten Ansatz, wobei die meisten GPAI-Entwickler nur geringe Transparenzanforderungen erfüllen müssen. Nur ein kleiner Teil der leistungsstärksten Modelle muss zusätzlich Risikobewertungs- und Minderungsmaßnahmen ergreifen. Die genauen Anforderungen an GPAI-Entwickler werden derzeit noch diskutiert, da die entsprechenden Verhaltenskodizes noch erstellt werden. Anfang dieser Woche begann das AI-Office der EU mit einer Konsultation und rief zur Teilnahme an diesem Regelsetzungsprozess auf. Die endgültigen Kodizes sollen im April 2025 fertiggestellt werden.
In einem gestern veröffentlichten Beitrag erklärte OpenAI, Entwickler des bekanntesten Sprachmodells GPT, dass es erwartet, eng mit dem EU-AI-Office und anderen relevanten Behörden zusammenzuarbeiten, während das neue Gesetz umgesetzt wird. Dazu gehört die Erstellung technischer Dokumentationen und anderer Leitlinien für nachgelagerte Anbieter und Nutzer seiner GPAI-Modelle. OpenAI rät KI-Entwicklern, zuerst zu versuchen, alle im Geltungsbereich des AI Act befindlichen KI-Systeme zu klassifizieren.
