Bildquelle: Shutterstock
Technik und IT: Health IT und künstliche Intelligenz

Health IT mit künstlicher Intelligenz: Rechtliche Fallstricke  

Digitale Lösungen sind aus dem Versorgungsalltag nicht mehr wegzudenken. Ob im administrativen, klinischen oder funktionellen Bereich: Health IT ist allgegenwärtig. Operiert ein Roboter zuverlässiger als der Chirurg? Erkennt die Software den Tumor besser als der Arzt? Und sorgt die App für eine sicherere Anwendung von Arzneimitteln? Die disruptive Wirkung der Digitalisierung fordert die Akteure heraus. Einer der zentralen Aspekte: das Potenzial der Künstlichen Intelligenz (KI). Neben technischen Herausforderungen stellen sich viele rechtliche Fragen für Hersteller und Anwender. Ist die Software ein Medizinprodukt? Werden Verträge automatisch geschlossen? Und wer haftet, wenn die selbstlernende KI falsch liegt?

Anwendungsfelder

Anwendungen im Gesundheitswesen, die mit Künstlicher Intelligenz arbeiten, entwickeln sich rasant. KI wird zunehmend ausgefeilter, um das zu tun, was Menschen tun – oft nur effizienter, schneller und zu geringeren Kosten. Aus dem Bereich der Früherkennung und Diagnostik ist KI schon heute nicht mehr wegzudenken. KI wird eingesetzt, um Krankheiten, wie etwa Krebs, genauer, zuverlässiger und früher zu erkennen. Dies geschieht – vereinfacht gesprochen – durch einen Abgleich der bei einem bestimmten Patienten erhobenen Daten – auch in Form von Bildern – mit großen Mengen von Daten anderer Patienten. Durch selbstlernende Systeme werden Zusammenhänge erkannt und Diagnosevorschläge ermittelt. Der letztgenannte Aspekt bildet einen weiteren wichtigen Pfeiler der KI-Anwendungen. Sogenannte Decision Support Software, die Methoden der prädiktiven Analytik nutzt, kann auf Basis umfangreicher Gesundheitsdaten klinische Maßnahmen unterstützen und Abläufe verschlanken. Hinzu kommen weitere Anwendungsfelder wie die Unterstützung der Behandlung von Patienten, das Monitoring von Therapieerfolgen oder, beispielsweise bei Operationen, der Einsatz von Robotertechnik.

Rechtliche Fallstricke

Bei der Entwicklung und Anwendung von digitalen Lösungen unter Nutzung von KI sind gerade aus rechtlicher Perspektive eine Vielzahl von Themen zu beachten. Häufig wird hier juristisches Neuland betreten, vieles befindet sich im Fluss. Das wiederum hat spezielle Auswirkungen für die konkreten Pflichten und Risiken der Anwender, also der Kliniken, Praxen und Ärzte.

Eine zentrale Frage bei der Anwendung und Entwicklung von Software-Lösungen ist die regulatorische Einordnung. Konkret geht es dabei vor allem um die Frage, ob es sich bei der Software um ein Medizinprodukt handelt. Das ist praktisch wichtig, weil Medizinprodukte nur in den Verkehr gebracht werden dürfen, wenn sie nach Durchführung eines Konformitätsbewertungsverfahrens eine CE-Kennzeichnung tragen. Sollte ein Produkt, das als Medizinprodukt zu qualifizieren ist, ohne CE-Kennzeichen in den Verkehr gebracht werden, besteht das Risiko, dass ein Wettbewerber den Stopp des Vertriebs verlangt. Außerdem stellt das Inverkehrbringen ohne ein solches Kennzeichen eine Ordnungswidrigkeit dar und kann sogar strafrechtliche Folgen haben. Nach dem deutschen Medizinproduktegesetz (MPG) – und auch nach der ab Mai 2020 anzuwendenden europäischen Medizinprodukteverordnung (MDR) – ist der bestimmungsgemäße Zweck der Software entscheidend. Grob gesagt gilt: Soll die Software helfen, Krankheiten zu erkennen oder zu behandeln, spricht viel für die Einordnung als Medizinprodukt. Dies wäre beispielsweise der Fall, wenn sie bei der Diagnose unterstützt oder die Dosierung von Medikamenten berechnet. Stellt die Software nur Wissen bereit oder speichert sie nur Daten, liegt eher kein Medizinprodukt vor. Die Grenzen sind hierbei allerdings fließend und eine sorgfältige Analyse ist unumgänglich. Betroffen sind davon nicht nur die Hersteller selbst, sondern auch die Betreiber und Anwender, also auch Kliniken. Denn wenn es sich bei der Software um ein Medizinprodukt handelt, gelten auch hier die Vorschriften der Medizinproduktebetreiberverordnung. Hier kommen etwa Vorgaben in Bezug auf die Personen, die das Medizinprodukt anwenden dürfen, sowie Dokumentation und Instandhaltung hinzu.

Aus medizinrechtlicher Sicht ist die Beachtung des ärztlichen Berufsrechts und der Compliance-Vorgaben wichtig. Hier stellt sich die Frage, ob und inwieweit eine Software originär ärztliche Tätigkeiten nahezu übernehmen darf. Denn diese sind nach dem ärztlichen Berufsrecht Ärzten vorbehalten.

Das ist einer der Gründe dafür, dass Software bislang letztlich nur Therapieempfehlungen gibt und die finale Entscheidung dem Arzt überlässt. Denn nur er darf ärztlich handeln. Hinzu kommt, dass eine Tätigkeit im Gesundheitssystem nur dann vergütet wird, wenn ein Arzt eingeschaltet wurde. Denkt man etwa an eine Diagnostik-Software, die gänzlich ohne Arzt auskäme, hätte es die Klinik oder die niedergelassene Praxis zumindest nach den gegenwärtigen Regularien schwer, für die Diagnostik eine angemessene Vergütung zu erhalten. Daher ist der jüngste Vorstoß der Bundesregierung, die im Digitale Versorgungsgesetz (DVG) erstmals eine Vergütung für bestimmte digitale Medizinprodukte regeln möchte, bemerkenswert. Geht es um Software im Bereich Fall- und Entlassmanagement, ist besonders darauf zu achten, nicht das Recht des Patienten auf freie Arztwahl einzuschränken. Dahinter steht das Risiko einer unzulässigen Patientenzuweisung, die nicht nur berufs-, sondern auch strafrechtliche Konsequenzen haben kann.

Das Thema Datenschutz hat bei KI-Lösungen naturgemäß eine besonders hohe Relevanz, denn die Lösungen basieren üblicherweise auf der Analyse und dem Abgleich von konkreten Patientendaten mit einer Vielzahl von – zumeist anonymisierten und aggregierten – Daten anderer Patienten. Ohnehin sind die Anforderungen an ein wirksames Einwilligungsmanagement bei der Erhebung und Nutzung von personenbezogenen Gesundheitsdaten durch das Inkrafttreten der Europäischen Datenschutzgrundverordnung (DSGVO) im Mai 2018 weiter gestiegen.

Doch gerade auf zivilrechtlicher Ebene sind in Bezug auf KI und insbesondere die auf dieser Grundlage betriebene Robotik zahlreiche Fragen ungeklärt.

Sie betreffen etwa das Zustandekommen von Verträgen, die Haftung für Fehler und Verletzungen sowie die Versicherung. 2017 verabschiedete daher das Europäische Parlament eine Entschließung mit Empfehlungen an die Kommission zu zivilrechtlichen Regelungen im Bereich Robotik. Viel passiert ist seither allerdings nicht. Die EU-Kommission behandelt und fördert das Thema KI und Robotik unterschiedlich – mit bislang eher bescheidenem Ergebnis. Präzise Vorschläge für eine Änderung zivilrechtlicher Vorschriften gibt es, soweit ersichtlich, bisher noch nicht. Bis auf Weiteres gelten daher die allgemeinen Regelungen, mit der Zielsetzung, die neuen Sachverhalte durch kreative Lösungsansätze mit den dafür häufig nicht ausgelegten zivilrechtlichen Regularien in Einklang zu bringen. Dazu gehört auch die Fragestellung, mit wem während einer Operation ein Behandlungsvertrag zustande kommt, wenn ein Roboter eingesetzt wird. Auch die Frage nach der Haftung, wenn ein selbstlernendes System einen Fehler begeht, der beim Patienten zu einem Schaden führt, ist bislang nicht geklärt. Ist es der Programmierer, der Anwender oder gar die Software selbst? Diese noch ungeklärte Thematik beschäftigt Hersteller ebenso wie Anwender und Patienten. Für Kliniken gilt es hier, neue Risiken durch geeignete vertragliche Vorkehrungen mit Herstellern und Kooperationspartnern abzufedern.

Fazit

KI hat im Gesundheitswesen ein weitreichendes Potenzial. Dank einer zügig voranschreitenden Digitalisierung erhalten Anwendungen auf Basis von KI mehr und mehr Einzug in den Behandlungsalltag. Die hier aktiven Hersteller, Betreiber und Anwender sollten neben den technischen Aspekten auch die rechtlichen Themen frühzeitig in den Blick nehmen. So können juristische Fallstricke erkannt und umgangen werden.

Dr. Roland Wiring, RA, Partner CMS Deutschland