04/12/2024
KI – ein Aus- und Rückblick auf wichtige Rechtsentwicklungen
Das vergangene Jahr war geprägt von bedeutenden Entwicklungen im Bereich der künstlichen Intelligenz (KI), die Unternehmen neue Chancen bieten, sie aber auch vor Herausforderungen stellen. So trat mit der KI-Verordnung (KI-VO) am 2. August 2024 in der EU der weltweit erste umfassende Rechtsrahmen zur Regulierung von KI in Kraft. Schon zuvor, am 24. Januar 2024, wurde das bei der EU-Kommission angesiedelte EU AI-Office eingerichtet, das eine Schlüsselrolle bei der Durchsetzung der KI-VO insbesondere mit Blick auf GPAI-Modelle (KI-Modelle mit allgemeinem Verwendungszweck) einnehmen wird. Im Mai 2024 hat der Europarat das Rahmenübereinkommen über künstliche Intelligenz verabschiedet, das sicherstellen soll, dass KI-Systeme mit Menschenrechten, Demokratie und Rechtsstaatlichkeit vereinbar sind. Zudem hat das LG Hamburg im September 2024 in einem bedeutenden Urteil erstmals in Deutschland die urheberrechtlichen Implikationen des KI-Trainings beleuchtet. 2025 – erstmals Anwendung verschiedener Regelungskomplexe der KI-Verordnung Das Jahr 2025 wird für zahlreiche Unternehmen, welche KI-Systeme bzw. -Modelle entwickeln oder einsetzen, wesentliche Veränderungen bringen. Wenngleich die Vorschriften der KI-VO gemäß Art. 113 überwiegend erst ab dem 2. August 2026 Anwendung finden, gelten einige Normen der KI-VO schon ab Februar bzw. August 2025. KI-Kompetenz – Wissen und Fähigkeiten für den KI-Einsatz Ab dem 2. Februar 2025 wird Art. 4 KI-VO anwendbar sein, der bestimmt, dass Anbieter und Betreiber aller KI-Systeme Maßnahmen zur KI-Kompetenz ihres Personals zu ergreifen haben, unabhängig von der Risikoklassifizierung der KI-Systeme unter der KI-VO. Die Maßnahmen sollen sicherstellen, dass Personen, die im Auftrag der Anbieter und Betreiber mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen. Der Begriff „KI-Kompetenz“ meint gemäß Art. 3 Nr. 56 KI-VO den Sachverstand, KI-Systeme fachkundig einzusetzen und sich zugleich der Chancen und Risiken von KI sowie der möglichen Schäden, welche sie verursachen kann, bewusst zu sein. Dies bedeutet praktisch, dass jedes Unternehmen, welches KI-Systeme anbietet oder bei sich nutzt, sein Personal „nach besten Kräften“ schulen sollte, damit es die erforderlichen technischen Kenntnisse und die Fähigkeiten zum sicheren Einsatz von KI-Systemen erwirbt. CMS veröffentlicht zu diesem Zweck in Kürze ein neues E-Learning, welches die Grundlagen und Basiskompetenz nach Art. 4 KI-VO allen Mitarbeitenden eines Unternehmens vermitteln kann, die bei ihrer Arbeit mit KI in Berührung kommen. Verbotene KI-Systeme Ebenfalls ab dem 2. Februar 2025 wird das Anbieten und Nutzen von KI-Systemen, die ein unannehmbares Risiko für die in der EU geschützten Grundrechte darstellen, nach Art. 5 KI-VO vollständig verboten. Betroffen von dieser Regelung, die Ausfluss des risikobasierten Ansatzes der KI-VO ist, sind etwa KI-Systeme für Social Scoring, Emotionserkennungssysteme am Arbeitsplatz zur Überwachung der Stimmung und Produktivität der Mitarbeitenden oder auch biometrische Kategorisierungssysteme zur Kategorisierung anhand sensibler Daten. Ein Zuwiderhandeln gegen diese „verbotenen Praktiken“ kann zu Bußgeldern von bis zu EUR 35 Millionen oder von bis zu 7 % des weltweiten Jahresumsatzes eines Unternehmens führen. Unternehmen, die KI-Systeme anbieten oder nutzen, die potenziell als ein verbotenes KI-System eingestuft werden könnten, sollten sich daher Gewissheit über die Klassifizierung ihrer KI-Systeme verschaffen und ggf. deren Angebot bzw. Nutzung einstellen. KI-Modelle mit allgemeinem Verwendungszweck Die KI-VO regelt ebenfalls sogenannte „KI-Modelle mit allgemeinem Verwendungszweck“ (GPAI-Modelle). Damit ist der Algorithmus gemeint, welcher in einem KI-System Einsatz findet. GPAI-Modelle stellen die Grundlage für generative KI-Systeme dar und werden normalerweise mithilfe großer Datensätze trainiert.Für die Anbieter von GPAI-Modellen regelt die KI-VO verschiedene Compliance-, Dokumentations- und Transparenzpflichten, die grundsätzlich ab dem 2. August 2025 Anwendung finden werden. Gemäß Art. 53 Abs. 1 lit. c) KI-VO müssen Anbieter von GPAI-Modellen etwa eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auf den Weg bringen. Diese Strategie soll sicherstellen, dass die Rechte von Urheberinnen und Urhebern, insbesondere im Hinblick auf die verwendeten und urheberrechtlich geschützten Trainingsinhalte, gewahrt werden. Anbieter, die ihre GPAI-Modelle bereits vor dem 2. August 2025 in den Verkehr gebracht haben, genießen nach Art. 111 Abs. 3 KI-VO Bestandsschutz und müssen diese Pflichten erst ab dem 2. August 2027 erfüllen. Ausblick: allgemeine Geltung und Hochrisiko-KI Die meisten Vorschriften der KI-VO, insbesondere die Anforderungen an sogenannte Hochrisiko-KI-Systeme und die weitreichenden Pflichten für ihre Anbieter und Betreiber, gelten grundsätzlich erst ab dem 2. August 2026. Dennoch sollten sich Anbieter und Betreiber von KI-Systemen frühzeitig mit den einschlägigen Pflichten befassen, damit sichergestellt ist, dass die jeweiligen Vorschriften der KI-VO ab ihrer Geltung auch eingehalten werden. Fazit 2025 ist das erste Jahr nach dem Inkrafttreten der KI-VO, in dem Pflichten für Anbieter und Betreiber von KI-Systemen und -Modellen Anwendung finden. Spätestens jetzt sollten sich Unternehmen mit den Anforderungen auseinandersetzen, um rechtzeitig zum Zeitpunkt des Inkrafttretens einzelner Regelungskomplexe der KI-VO compliant zu sein.
Social-Media-Cookies sammeln Informationen darüber, wie Sie Inhalte von unserer Website über die sozialen Medien teilen, oder liefern Analysedaten zu Ihrem Nutzungsverhalten, wenn Sie zwischen Social-Media-Plattformen oder unseren Social-Media-Kampagnen und unseren eigenen Websites navigieren. Wir setzen diese Cookies ein, um die Mischung der Kommunikationswege zu optimieren, über die wir Ihnen unsere Inhalte zukommen lassen. Genauere Informationen zu den eingesetzten Tools finden Sie in unserer Datenschutzerklärung.