Künstliche Intelligenz: Top-Trend 2022 in vielen Sektoren

Einsatz von KI schon heute

Viele Unternehmen mit digitalen Geschäftsmodellen nutzen KI. Sprachassistenzsysteme und Chatbots sind fester Bestandteil des Alltags. Auch Unternehmen mit traditionellen Geschäftsmodellen kommen kaum mehr ohne KI aus. Während die digitalen Herausforderungen etwa der Automobilindustrie Gegenstand der öffentlichen Debatte sind, ist nicht überall bekannt, dass auch im Sport, Journalismus und in weiteren urheberrechtlich relevanten Bereichen, in der Finanzbranche und Rechtsberatung KI zum Einsatz kommt. Insbesondere im Gesundheitswesen hat KI großes Potenzial. KI-Anwendungen halten mehr und mehr Einzug in den Behandlungsalltag. So werden etwa KI-Systeme in der Früherkennung und Diagnostik genutzt, um Krankheiten genauer, zuverlässiger und früher zu erkennen. All diesen Bereichen ist gemein, dass KI zunehmend ausgefeilter wird, um das zu tun, was Menschen tun – nur effizienter, schneller und kostengünstiger. Trotz des rasanten Wachstums an Einsatzszenarien dürfte sich die Entwicklung der KI-Systeme noch am Anfang befinden.

KI-VO der EU: weitreichende Regulierung

Die EU-Kommission hatte im Februar 2020 ein EU-Weißbuch zu KI veröffentlicht. Dazu hatten sich zahlreiche Verbände und Interessensvertreter zur KI positioniert. Während der vzbv eine umfassende Regulierung forderte, warnte der Bitkom vor einer Überregulierung, und wiederum andere Stimmen forderten sektorspezifische Regelungen, da die Anforderungen etwa im Straßenverkehr andere seien als in der Medizin oder im Justizwesen.

Die Diskussionen mündeten in den Vorschlag der EU-Kommission für eine EU-Verordnung zur Regulierung von KI. In ihrem am 21. April 2021 vorgelegten Regulierungsentwurf (EU-KI-Verordnung) schlägt die Kommission vor, den Einsatz von KI stark zu regulieren. Einerseits sollen Entwicklung und Nutzung von KI gefördert werden, um Europas Position als globales Zentrum für Exzellenz in der KI zu stärken. Andererseits sollen die mit der Technologie einhergehenden Gefahren eingedämmt und soll sichergestellt werden, dass nur vertrauenswürdige KI zum Einsatz kommt. Der Entwurf versucht, diesen Spagat durch einen risikobasierten Ansatz zu erreichen. Er differenziert nicht zwischen Sektoren, sondern nach Risikostufen: Je größer die möglichen Gefahren sind, desto höher sollen auch die Anforderungen an das KI-System sein.

Bestimmte KI-Systeme, die eine klare Bedrohung für die Sicherheit, Lebensgrundlagen und Rechte der Bürger darstellen, sollen verboten werden. Für KI-Systeme, deren Einsatz in bestimmten Bereichen ein hohes Risiko für die Gesundheit oder Sicherheit oder eine Beeinträchtigung der Grundrechte mit sich bringt, sollen vor ihrem Einsatz strenge Vorgaben gelten. Anders als bei verbotener KI erfolgt die Bestimmung von Hochrisikoanwendungen nicht abstrakt, sondern durch Bezugnahme auf zwei Anlagen des Verordnungsentwurfs, die dann doch nach Sektoren unterscheiden. Erfasst werden insbesondere KI-Anwendungen in gefahrgeneigten Bereichen wie Straßenverkehr, Luftfahrt und Medizin sowie KI-Anwendungen in gesellschaftlich relevanten Bereichen wie Personenerkennung, kritische Infrastruktur, Bildung, Recruitment, Daseinsvorsorge, Kreditwürdigkeit, Migration, Strafverfolgung und Justiz.

Für KI-Systeme mit geringem Risiko für die Rechte oder Sicherheit der Bürger sollen nur Transparenzvorschriften gelten, die es ihren Nutzern ermöglichen, fundierte Entscheidungen zu treffen. KI-Systeme, die nur ein minimales oder kein Risiko darstellen, sollen weiterhin allein unter Einhaltung des allgemein geltenden Rechts entwickelt und verwendet werden können.

Folgen für die Praxis

Unternehmen müssen nach dem Entwurf unabhängig von ihrem Sitz bei der Entwicklung und dem Einsatz von KI zukünftig die durch die Verordnung vorgegebenen Anforderungen bzw. den sie gegebenenfalls betreffenden Pflichtenkatalog berücksichtigen, der nicht allein die Anbieter, sondern auch Importeure, Händler und Nutzer, mithin jeden, der KI in der EU in den Verkehr bringt oder nutzt, treffen kann. So bedürfen Hochrisikoanwendungen vor dem Markteintritt einer je nach Anwendung unterschiedlich ausgestalteten Konformitätsprüfung und Zertifizierung (CE-Kennzeichnung).

Bei Verstößen sieht der Entwurf Bußgelder von bis zu EUR 30 Millionen bzw. 6 % der weltweiten Unternehmensumsätze vor.

Empfehlung für 2022

Für 2022 bedeutet das: Auch wenn bis zur Verabschiedung der Verordnung noch einige Zeit ins Land gehen wird, sind Unternehmen – das ist sicher ein Learning aus der DSGVO-Reform – nicht zuletzt im Hinblick auf die hohen Sanktionen und die fortschreitende Verbreitung von KI gut beraten, sich frühzeitig mit dem Verordnungsentwurf auseinanderzusetzen und sich auf die geplanten rechtlichen und technischen Herausforderungen vorzubereiten.