Künstliche Intelligenz im Gesundheitswesen: rechtliche Risiken und Nebenwirkungen

Können Algorithmen vor Krankheiten schützen? Diagnostiziert die App besser als der Arzt? Operiert ein Roboter zuverlässiger als der Chirurg? Das sind einige der brennenden Fragen des Gesundheitswesens. Die Digitalisierung schreitet stetig voran, ihre disruptive Wirkung fordert die Akteure heraus. Einer der wichtigsten Aspekte: das Potenzial der künstlichen Intelligenz (KI). Neben technischen Herausforderungen stellen sich viele rechtliche Fragen. Hier betritt man häufig juristisches Neuland: Ist die Software ein Medizinprodukt? Werden Verträge automatisch geschlossen? Wer soll haften, wenn die selbstlernende App falsch liegt?

Hintergrund

Anwendungen, die mit künstlicher Intelligenz arbeiten, entwickeln sich rasant. Das Potenzial für KI und Robotik im Gesundheitswesen ist enorm. Dabei wird KI zunehmend ausgefeilter, um das zu tun, was Menschen tun – oft nur effizienter, schneller und zu geringeren Kosten.

Ein wichtiges Anwendungsfeld ist die Gesundheitsvorsorge. KI soll Menschen dabei helfen, gesund zu bleiben. So sollen Apps, wie etwa Fitness-Tracker, ein gesünderes Verhalten fördern und bei der eigenständigen Verwaltung eines gesunden Lebensstils helfen. Aus dem Bereich der Früherkennung und Diagnostik ist KI schon heute nicht mehr wegzudenken. KI wird eingesetzt, um Krankheiten wie etwa Krebs genauer, zuverlässiger und früher zu erkennen. Dies geschieht – vereinfacht gesprochen – durch einen Abgleich der bei einem bestimmten Patienten erhobenen Daten – auch in Form von Bildern – mit großen Mengen von Daten anderer Patienten. Durch selbstlernende Systeme werden Zusammenhänge erkannt und Diagnosevorschläge ermittelt. Der letztgenannte Aspekt bildet einen weiteren wichtigen Pfeiler der KI-Anwendungen. So genannte Decision-Support-Software, die Methoden der prädiktiven Analytik nutzt, kann auf Basis umfangreicher Gesundheitsdaten klinische Maßnahmen unterstützen und Abläufe verschlanken. Hinzu kommen weitere Anwendungsfelder wie die Unterstützung der Behandlung von Patienten, das Monitoring von Therapieerfolgen oder der Einsatz von Robotertechnik, etwa bei Operationen.

Rechtliche Kernthemen

Aus rechtlicher Sicht sind bei der Entwicklung und Umsetzung von digitalen Lösungen unter Nutzung von KI eine Vielzahl von Themen zu beachten. Nicht selten betritt man hier juristisches Neuland, vieles befindet sich im Fluss.

Eine zentrale Frage bei der Entwicklung von Softwarelösungen ist die regulatorische Einordnung. Hier ist vor allem zu klären, ob die Software ein Medizinprodukt ist. Das ist praktisch wichtig, weil Medizinprodukte nur in den Verkehr gebracht werden dürfen, wenn sie nach Durchführung eines Konformitätsbewertungsverfahrens eine CE-Kennzeichnung tragen. Wird ein Produkt, das als Medizinprodukt zu qualifizieren ist, ohne CE-Kennzeichen in den Verkehr gebracht, besteht das Risiko, dass ein Wettbewerber Unterlassung des Vertriebs verlangt. Außerdem stellt das Inverkehrbringen eine Ordnungswidrigkeit dar und kann sogar strafrechtliche Folgen haben.

Nach dem deutschen Medizinproduktegesetz (MPG) – und auch nach der ab Mai 2020 anzuwendenden europäischen Medizinprodukteverordnung (MDR) – ist der bestimmungsgemäße Zweck der Software entscheidend. Grob gesagt gilt: Soll die Software Krankheiten erkennen oder behandeln, spricht viel für die Einordnung als Medizinprodukt – z. B., wenn sie bei der Diagnose unterstützt oder die Dosierung von Medikamenten berechnet. Stellt die Software nur Wissen bereit oder speichert sie nur Daten, liegt eher kein Medizinprodukt vor. Weitere Punkte aus medizinrechtlich-regulatorischer Sicht sind die Beachtung des ärztlichen Berufsrechts, Aspekte der Pharmakovigilanz und – was zunehmend wichtig für die finanzielle Tragfähigkeit von Softwarelösungen ist – Fragen der Erstattung durch Krankenversicherungen.

Das Thema Datenschutz hat naturgemäß eine ganz besondere Relevanz in diesem Zusammenhang – schließlich basieren KI-Lösungen üblicherweise auf der Analyse und dem Abgleich von konkreten Patientendaten mit einer Vielzahl von – zumeist anonymisierten und aggregierten – Daten anderer Patienten. Die Anforderungen an ein wirksames Einwilligungsmanagement bei der Erhebung und Nutzung von personenbezogenen Gesundheitsdaten sind durch den Anwendungsbeginn der Europäischen Datenschutz-Grundverordnung (DSGVO) im Mai 2018 weiter gestiegen.

Auf zivilrechtlicher Ebene sind in Bezug auf KI und insbesondere die auf dieser Grundlage betriebene Robotik zahlreiche Fragen ungeklärt. Sie betreffen etwa das Zustandekommen von Verträgen, die Haftung für Fehler und Verletzungen sowie die Versicherung. Die insoweit bestehende Unsicherheit hat das Europäische Parlament dazu veranlasst, am 16. Februar 2017 eine Entschließung mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik (2015 / 2103 [INL]) zu verabschieden. Auf der Ebene der EU-Kommission wird das Thema KI und Robotik auf verschiedene Weise behandelt und gefördert – präzise Vorschläge für eine Änderung zivilrechtlicher Vorschriften gibt es, soweit ersichtlich, bisher allerdings nicht. Bis auf Weiteres gelten daher die allgemeinen Regelungen. Hier geht es darum, die neuen Sachverhalte durch kreative Lösungsansätze mit den dafür häufig nicht ausgelegten zivilrechtlichen Regularien in Einklang zu bringen. Das betrifft etwa die Frage, mit wem bei Einsatz eines Roboters während einer Operation ein Behandlungsvertrag zustande kommt, oder die Frage, wer haftet, wenn ein selbstlernendes System einen Fehler begeht, der beim Patienten zu einem Schaden führt – ist dies der Programmierer, der Anwender oder gar die Software selbst? Gerade diese noch ungeklärte Thematik beschäftigt Hersteller ebenso wie Anwender und Patienten.

Fazit

Das Potenzial für KI im Gesundheitswesen ist enorm. Die unaufhaltsam voranschreitende Digitalisierung wird dafür sorgen, dass Anwendungen auf Basis von KI mehr und mehr Einzug in den Behandlungsalltag erhalten. Für die hier aktiven Unternehmen empfiehlt es sich, nicht nur die technischen Aspekte, sondern auch die rechtlichen Themen frühzeitig in den Blick zu nehmen. So können juristische Risiken analysiert, bewertet und abgefedert werden – und vielleicht hilft dabei dann ja auch die Anwendung von Legal Tech, denn KI im Rechtswesen ist bekanntlich auch auf dem Vormarsch.

Dieser Artikel ist Teil des Updates Gewerblicher Rechtsschutz und Kartellrecht, welches Sie hier abonnieren können.