Der EU AI Act, die Verordnung zur Regulierung Künstlicher Intelligenz in der EU, ist seit dem 1. August 2024 in Kraft. Viele Unternehmen, insbesondere in Deutschland und auch unter Händlern, sehen sich beim KI-Einsatz nun mit zusätzlichen Unsicherheiten konfrontiert. Laut einer Umfrage benötigen fast 70 Prozent der deutschen Unternehmen Unterstützung, um die neuen Anforderungen zu erfüllen. 40 Prozent der Unternehmen zögern sogar, KI-Systeme einzusetzen, da ihnen die rechtliche Klarheit fehlt.
Um Unternehmen den Zugang zur KI-Verordnung zu erleichtern, hat der Digitalverband Bitkom ein Online-Tool entwickelt, das Nutzer durch die Anforderungen des EU AI Acts leitet. Das Tool dient nicht nur der Prüfung, ob ein System unter die Verordnung fällt, sondern unterstützt Unternehmen auch dabei, die notwendigen Maßnahmen zu identifizieren und umzusetzen. Begleitet wird das Tool durch einen umfassenden Leitfaden, der Hintergrundinformationen sowie Erklärungen zu den einzelnen Prüfschritten liefert.
„Wir brauchen mehr KI aus und in Deutschland. Deshalb helfen wir Unternehmen, KI-Angebote praxisnah auf den Markt zu bringen und KI-Systeme sicher im eigenen Betrieb einzusetzen,“ erklärt Susanne Dehmel, Geschäftsleiterin bei Bitkom. Sie hebt die Notwendigkeit hervor, praxistaugliche und bürokratiearme Vorgaben zu schaffen, die nicht über die europäischen Standards hinausgehen. Dies soll laut Pressemitteilung den Unternehmen helfen, nicht in einem bürokratischen Labyrinth stecken zu bleiben.
Der Leitfaden ist in einzelne Prüfungsschritte gegliedert, die von Grundsatzfragen zur Definition eines KI-Systems über den persönlichen und räumlichen Anwendungsbereich bis zur Klassifizierung nach Risikoklassen reichen. Für Anbieter und Nutzer von KI-Systemen beschreibt der Leitfaden ausführlich, welche Schritte zur Konformität erforderlich sind. Der Schwerpunkt liegt auf sogenannten „KI-Systemen mit konkretem Verwendungszweck“, berücksichtigt jedoch auch allgemeine KI-Modelle.
Der EU AI Act, der seit dem 1. August 2024 in Kraft ist, regelt den Einsatz von Künstlicher Intelligenz (KI) mit einem Schwerpunkt auf Risikomanagement und Schutz der Grundrechte. Dabei kategorisiert die Verordnung KI-Anwendungen nach ihrem Risikopotenzial: Während KI-Systeme mit minimalem Risiko, wie Spam-Filter, kaum Verpflichtungen unterliegen, werden für „hochriskante“ Systeme – wie solche zur Personalrekrutierung oder zur Kreditwürdigkeitsprüfung – strenge Auflagen gefordert. Diese beinhalten Maßnahmen zur Datenqualität, Benutzerinformationen und einer kontinuierlichen Überwachung, um Risiken zu minimieren. Unzulässige KI-Anwendungen, wie Systeme für Social Scoring, sind vollständig verboten, da sie als Eingriffe in die Grundrechte gelten.
Einzelhändler und Online-Shops sind potenziell betroffen, wenn sie KI-Systeme einsetzen, die in risikobehaftete Kategorien fallen könnten. Etwaige Chatbots oder Empfehlungssysteme, die eine automatisierte Interaktion ermöglichen, müssen die Transparenzpflichten erfüllen, indem sie den Kunden mitteilen, dass sie mit einer KI interagieren. Falls Systeme im Bereich der Gesichtserkennung zur Diebstahlprävention oder zur personalisierten Werbung eingesetzt werden, müssen diese ebenfalls geprüft werden, da Gesichtserkennung als „biometrische KI“ gilt und damit strengen Kontrollen unterliegt. Unternehmen im Einzelhandel müssen daher sicherstellen, dass ihre KI-Anwendungen den Vorgaben des AI Acts entsprechen, um rechtliche Konflikte zu vermeiden und die Privatsphäre sowie Rechte der Kunden zu schützen.
Bitkom und die teilnehmenden Unternehmen hoffen, durch diese Hilfestellung die Einführung und Nutzung von KI in Deutschland anzukurbeln und bestehende rechtliche Barrieren abzubauen.
Das Tool steht allen Unternehmen kostenlos hier zu Verfügung: Bitkom