Der Rechtsrahmen für Künstliche Intelligenz: neuer Ansatz der EU-Kommission für mehr Regulierung und eine strengere Haftung

Die EU-Kommission hat kürzlich ein Weißbuch zur Künstlichen Intelligenz veröffentlicht. Mit ihrem Konzept für Exzellenz und Vertrauen skizziert sie den künftigen Rahmen für die Nutzung und Anwendung von Künstlicher Intelligenz. Strengere Vorgaben zeichnen sich ab, sowohl in Bezug auf die Regulierung als auch für die Haftung. Perspektivisch wird dies erhebliche Auswirkungen auf in diesem Bereich tätige Unternehmen haben.

Künstliche Intelligenz (KI) hat inzwischen fast alle Lebensbereiche erreicht: Mobilität, Handel, Gesundheit – um nur einige zu nennen. Die EU-Kommission hat nun im umfangreichen Weißbuch „Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ (COM(2020) 65 final) ihre Vision für die Zukunft von KI und deren Rechtsrahmen zusammengefasst. „Künstliche Intelligenz muss den Menschen dienen, ihren Rechten folgen“, so Kommissionspräsidentin von der Leyen bei der Vorstellung des Weißbuchs. Fernziel ist die Schaffung eines Regulierungsrahmens, der den Besonderheiten der KI Rechnung trägt. 

Mit dem Weißbuch legt die Europäische Kommission ein Konzept vor, das einerseits die Nutzung von KI fördern, andererseits die mit der Technologie einhergehenden Gefahren eindämmen soll. Das Weißbuch bildet eine Säule der künftigen Digitalstrategie der Kommission. Aus ihrer Sicht ist es zentral, Vertrauen in die Möglichkeiten von KI zu schaffen. Als ein wichtiges Element sieht sie einen auf die Besonderheiten der KI abgestimmten Regulierungsrahmen. Leitidee des Weißbuchs ist die Schaffung von Ökosystemen für Exzellenz und Vertrauen.

Ein Ökosystem für Exzellenz

Mit dem Ökosystem für Exzellenz umschreibt die Kommission einen politischen Rahmen zur Förderung von KI. Die Kommission möchte Ressourcen mobilisieren und vor allem kleinere und mittlere Unternehmen fördern. Auch auf internationaler Ebene sollen Kooperationen ausgebaut und Netzwerke zwischen Forschungszentren sowie Universitäten erweitert werden. Die Anstrengungen sollten sich auf Bereiche konzentrieren, in denen Europa ohnehin erhebliches Potential habe. Dazu gehöre auch das Gesundheitswesen. Mit der Einführung von KI-gestützten Produkten und Dienstleistungen im öffentlichen Sektor möchte die Kommission schnellstmöglich beginnen. Dafür strebt sie ein Programm zur Implementierung von KI an – mit vorrangiger Berücksichtigung des Gesundheitswesens. Da ohne Daten eine Entwicklung von KI nicht möglich sei, müssten der Zugang zu Daten und die verantwortungsvolle Datenverwaltung gefördert werden. 

Ein Ökosystem für Vertrauen

Mit der Schaffung eines Ökosystems des Vertrauens möchte die Kommission Sorgen der Bürger wegen der Risiken von KI entgegenwirken. Das könne die Entwicklung von entsprechenden Technologien ausbremsen. Die perspektivische Schaffung eines europäischen Regulierungsrahmens für KI soll hier helfen. Die größten Risiken im Zusammenhang mit der Nutzung von KI beträfen den Schutz von Grundrechten (Datenschutz, Privatsphäre, Nichtdiskriminierung) sowie Fragen der Sicherheit und Haftung. Nach Darstellung der Kommission werden Bürger vermehrt von Maßnahmen und Entscheidungen von Systemen Künstlicher Intelligenz betroffen. Sie fallen teils autonom, intransparent und komplex aus. Das erschwere eine Durchsetzung von bestehenden EU-Rechtsvorschriften zum Schutz der Grundrechte. Überdies könne KI auch zur Überwachung und Analyse eingesetzt werden, was die Privatsphäre gefährde. Auch für Diskriminierung durch KI bestehe ein besonderes Risiko, da ein Mechanismus der sozialen Kontrolle fehle. KI-Technologien brächten zudem neue Sicherheitsrisiken und Haftungsfragen mit sich. Alldem müsse mit klaren Regelungen begegnet werden. 

Risikobasierte Anpassung des Rechtsrahmens 

Nach Auffassung der Europäischen Kommission sollten bestehende europäische Regelungen an KI und deren Wirkungen angepasst werden. Als Kernherausforderungen identifiziert sie veränderliche Funktionen von KI-Systemen innerhalb ihres Lebenszyklus, Unsicherheiten mit Blick auf Verantwortlichkeiten innerhalb der Lieferkette und die Änderung von Sicherheitskonzepten.

In einem ersten Schritt möchte die Kommission die in verschiedenen Sektoren bestehenden Vorschriften wie etwa im Gesundheitsbereich u. a. das Medizinprodukterecht, das Produkthaftungsrecht und das Datenschutzrecht weiter anwenden. Diese sollen in einem zweiten Schritt aber durch weitere Regelungen flankiert werden, die die neuen Herausforderungen durch KI reflektieren. Dabei müsse ein neuer rechtlicher Rahmen verhältnismäßig bleiben und dürfe nicht zu einer Überregulierung führen. Um dieses Gleichgewicht zu erreichen, favorisiert die Kommission einen risikobasierten Ansatz. Neue, erweiterte Regelungen sollen primär für KI mit hohem Risiko gelten. 

Bei der Risikoeinstufung einer KI-Anwendung als hoch soll nach Meinung der Kommission berücksichtigt werden, was auf dem Spiel steht. Dabei sei zu prüfen, ob der Sektor und die beabsichtigte Verwendung erhebliche Risiken bergen, insbesondere unter den Gesichtspunkten Sicherheit, Verbraucherrechte und Grundrechte. Als Sektorenbeispiele nennt das Weißbuch Gesundheitswesen, Verkehr, Energie sowie Teile des öffentlichen Sektors. Auf der zweiten Stufe sei zu fragen, ob die KI-Anwendung in dem betreffenden Sektor so eingesetzt werde, dass mit erheblichen Risiken zu rechnen sei. Grund für dieses Kriterium ist, dass nicht jede Nutzung von KI in den ausgewählten Sektoren notwendigerweise erhebliche Risiken birgt. 

So könne das Gesundheitswesen im Allgemeinen zwar tatsächlich ein relevanter Sektor sein, jedoch dürfte ein Fehler in einem Terminvereinbarungssystem eines Krankenhauses in der Regel keine so erheblichen Risiken mit sich bringen, dass ein gesetzgeberisches Eingreifen gerechtfertigt wäre. Umgekehrt könne es aber auch Ausnahmefälle geben, in denen aufgrund der immanenten Risiken der Einsatz von KI-Anwendungen für bestimmte Zwecke grundsätzlich – also unabhängig von dem betreffenden Sektor – als hochriskant einzustufen sei. Dazu gehöre beispielsweise der Einsatz von KI beim Recruiting in Unternehmen, was Risiken im Hinblick auf das Diskriminierungsverbot berge, oder der Einsatz von KI für Zwecke der biometrischen Fernidentifikation (Gesichtserkennung).

Strengere Regulierung und weitergehende Haftung 

Bei der Ausgestaltung des künftigen Rechtsrahmens für KI wird zu entscheiden sein, welche Arten verbindlicher rechtlicher Anforderungen den einschlägigen Akteuren aufzuerlegen sind. 

Für KI-Anwendungen mit hohem Risiko sei eine objektive, vorab vorzunehmende Konformitätsbewertung erforderlich. Diese solle Verfahren für die Prüfung, Inspektion oder Zertifizierung umfassen, etwa zur Überprüfung der Algorithmen oder der in der Entwicklungsphase verwendeten Datensätze. Die Bewertung kann nach Vorstellung der Kommission Teil der Konformitätsbewertungsmechanismen sein, die bereits für eine große Zahl von Produkten existieren, die auf dem EU-Binnenmarkt in Verkehr gebracht werden sollen – etwa im Bereich der Medizinprodukte. Aufgrund der Lernfähigkeit von KI müssten Bewertungen möglicherweise auch wiederholt stattfinden. 

Darüber hinaus sollten sowohl für KI-Anwendungen mit hohem Risiko als auch für andere KI-Anwendungen wirksame Rechtsbehelfe für Parteien vorgesehen werden, die von negativen Auswirkungen von KI-Systemen betroffen sind. Der damit angerissene haftungsrechtliche Rahmen wird im Weißbuch nicht weiter ausgeführt. Ihn behandelt ein aus praktischer Sicht mindestens ebenso wichtiger Bericht der Kommission über den Sicherheits- und Haftungsrahmen. Er enthält eine detaillierte Analyse des geltenden Rechtsrahmens, macht eine Reihe von Lücken aus und enthält teilweise schon recht konkrete Vorschläge für eine Anpassung des Rechtsrahmens. Diese deuten in Richtung einer Verschärfung der Haftungsrisiken beim Einsatz von Künstlicher Intelligenz.

Ausblick: ein europäisches KI-Konzept 

Mit dem Weißbuch zur Künstlichen Intelligenz und dem begleitenden Bericht über den Sicherheits- und Haftungsrahmen hat die Kommission einen breit angelegten Konsultationsprozess eingeleitet. Dabei geht es um nicht weniger als die Erarbeitung von Vorschlägen für ein europäisches KI-Konzept. Neben politischen Ideen und der Erschließung von finanziellen Mitteln gehören dazu auch Vorschläge für Kernelemente eines künftigen Rechtsrahmens. Selbst wenn es auf den ersten Blick noch eher vage und aus Praxissicht wenig greifbar erscheint: Angesichts der rasanten Verbreitung von KI und ihrer stetig zunehmenden Bedeutung dürfte sich auch der Ruf nach effektiver Regulierung und verlässlichen Haftungsregelungen schnell verstärken.

Dieser Artikel ist Teil des Update Gewerblicher Rechtsschutz und Kartellrecht, welches Sie hier abonnieren können.