Ruf nach strenger KI- und Daten-Regulierung in der EU

Brüssel. Präzisionsmedizin auf Basis von Künstlicher Intelligenz (KI) gilt vor allem in der Onkologie als die eierlegende Wollmilchsau für die Diagnostik und Therapie der Zukunft. Auch in dem am Mittwoch verabschiedeten Krebsplan der EU-Kommission wird für onkologische Erkrankungen in der Versorgung, aber auch in der pharmazeutischen Forschung explizit auf die Segnungen der KI verwiesen.

Vor allem die Forschung setzt auf die verstärkte Nutzung von Daten aus dem klinischen Alltag (Real World Data/RWD). Forschern sollen diese Daten nach dem Ansinnen der EU-Kommission in dem bis 2025 zu errichtenden, interoperablen Europäischen Gesundheitsdatenraum (European Health Data Space/EHDS) über die Grenzen aller 27 Mitgliedstaaten hinweg zur Verfügung stehen. Denn erst die Daten aus dem klinischen Alltag zeigen, wie sich eine neue Therapie außerhalb von Studien bewährt.

In Europa fehlt sowohl für die KI als auch für den Datenraum allerdings noch der rechtliche Rahmen. Über diesen streiten im EU-Parlament die Abgeordneten gerade wie die Kesselflicker. Darüber berichtete die sozialistische portugiesische Abgeordnete Maria-Manuel Leitão-Marques, Mitglied im Sonderausschuss zu Künstlicher Intelligenz im digitalen Zeitalter, am Donnerstag in Brüssel im Rahmen einer Videoschalte der Nonprofit-Organisation Center for Data Innovation.

Regulierung soll Algorithmen sicher machen

Wie Marques hinwies, bedarf es vor allem im Hinblick auf die Gesundheitsanwendungen einer strengen KI-Regulierung in Europa – schon allein deshalb, weil Algorithmen Ärzten Handlungsempfehlungen für überlebenswichtige Therapieschritte geben: „Wir müssen verhindern, dass es zu einer Verzerrung, einem Bias, bei den Algorithmen kommt.“

Knackpunkt: Im Zuge des Maschinellen Lernens müssen KI-Lösungen zum Beispiel anhand Tausender Bilder trainiert werden, um etwa radiologische Muster zu erkennen – vor allem Radiologen gelten unter Ärzten als eine der Gruppen, die sich vom KI-Einsatz zur Unterstützung im Versorgungsalltag bei Diagnostik und Therapie viel Potenzial versprechen.

Für Vertrauen in die KI werben

Professor Elmar Kotter, Vorsitzender des Unterausschusses E-Health und Informatik der European Society of Radiology, betonte, es müsse vor allem für Vertrauen in die KI geworben werden – auf Patienten- wie auch Ärzteseite.

Die KI-Regulierung der EU müsse dafür sorgen, dass die Algorithmen so zuverlässig arbeiten, dass die KI vertrauenswürdig ist, so der am Freiburger Uniklinikum tätige Radiologe. Im Klartext hieße das: Was zugelassen ist, ist auch zuverlässig und kann dem Arzt als verlässliche Unterstützung dienen.

Für Ärzte, die mit KI-basierten Assistenzlösungen im Versorgungsalltag zu tun haben, bedürfe es einer jeweils handhabbaren Instrumententafel, mahnte Kotter, der den Vergleich zur Komplexität in einem Flugzeug-Cockpit zog. Die Gefahr sei, dass Ärzte in einem Zuviel an patientenindividuellen Informationen und Empfehlungen der KI-Lösung die Orientierung verlieren. Will sagen: Für Ärzte ist weniger auch bei der KI mehr.

Nicht nur eine Frage der Medizinprodukteverordnung

Yiannos Tolias von der Rechtsabteilung der EU-Generaldirektion Gesundheit und Lebensmittelsicherheit der EU-Kommission (DG Sante), verwies darauf, dass medizinische KI-Lösungen hohen Anforderungen genügen müssten, ehe sie beim Patienten zum Einsatz kämen – womit für Ärzte aber per se kein Freibrief verbunden sei, sich in ihrem Handeln blind auf die Empfehlungen des kollaborativen Roboters zu verlassen.

So müssten entsprechende KI-Tools ab dem 26. Mai den verschärften Zulassungsanforderungen sowohl der novellierten EU-Medizinprodukteverordnung (Medical Device Regulation/MDR) genügen als auch der noch zu etablierenden KI-Regulierung sowie den Rahmenbedingungen, die die EU-Datenschutzgrundverordnung (DSGVO) vorgibt.

Hoffen auf Datenspenden der Patienten

Amgen-Manager Chris Walker, der auch als Vorsitzender der Arbeitsgruppe Digital Health des Europäischen Dachverbands der forschenden Pharmazeutischen Industrie (EFPIA) fungiert, setzt große Hoffnung in die Bereitschaft der EU-Bürger, ihre Patientendaten zur Verfügung zu stellen. Doch für die Industrie dürften sich hier unter Umständen noch hohe Hürden auftun.

Beispiel Deutschland: Ab 2023 haben Versicherte das im Patientendaten-Schutzgesetz (PDSG) verbriefte Recht, in der elektronischen Patientenakte (ePA) gespeicherte Daten im Rahmen einer Datenspende freiwillig der nicht-kommerziellen Forschung zur Verfügung zu stellen.

Wer auf diese Daten in anonymisierter oder pseudonymisierter Form zugreifen darf, wird seit Längerem kontrovers diskutiert. Im PDSG hat der Gesetzgeber die Industrie ausdrücklich von der Nutzung der via elektronischer Patientenakte gespendeten Daten ausgeschlossen.