KI-Therapeuten müssen sich den Ethikregeln beugen!

Düsseldorf. Wer in Deutschland über das Potenzial des Einsatzes Künstlicher Intelligenz (KI) im medizinischen und pflegerischen Kontext diskutiert, weist zumeist auf die Verheißungen für die Diagnostik und individuelle (onkologische) Therapiefindung hin. Vollkommen ausgeblendet werde hingegen der vielversprechende Bereich des KI-Einsatzes im Kontext der mentalen Gesundheit.

Dies monierte Professor Alena M. Buyx, Direktorin des Instituts für Geschichte und Ethik der Medizin, Lehrstuhl für Ethik der Medizin und Gesundheitstechnologien der Technischen Universität München, am Dienstag in Düsseldorf auf der weltgrößten Medizinmesse Medica im Rahmen des diesjährigen Medica Econ Forums der Techniker Krankenkasse (TK).

Agieren im vulnerabelsten Bereich

Das Feld werde international bereits von einigen Playern bespielt, so Buyx, die seit 2016 auch Mitglied im Deutschen Ethikrat ist. So werde der an der University of Southern California entwickelte Avatar „Ellie“ zum Beispiel eingesetzt, um im Gespräch mit Menschen Anzeichen für Depressionen zu erkennen. Der Therapieroboter „Kaspar“ helfe autistischen Kindern, Kontakt mit anderen Menschen aufnehmen zu können. Andere KI-basierte Roboter würden zur Therapie bei pädophilen Patienten eingesetzt – einer Zielgruppe, die von Psychotherapeuten nur schwer zu erreichen sei. Companion Bots wie die in Japan entwickelte Computerrobbe Paro werden im Pflegekontext bei demenzkranken Patienten eingesetzt, um der zunehmenden Vereinsamung zu begegnen – sie nähmen Paro und Konsorten als echte Tiere wahr.

Es sei höchste Zeit, so Buyx, solche Lösungen im Hinblick auf ihre Chancen und Risiken unter dem ethischen Aspekt zu diskutieren. Der Knackpunkt für sie: Die Mensch-Maschine-Interaktion betreffe den vulnerabelsten Lebensbereich der Patienten. Zugleich könnten diese Lösungen aber potenziell dazu beitragen, Versorgungslücken bei der mentalen Gesundheit zu schließen – nicht nur im räumlichen Sinne, sondern auch durch das Ansprechen schwer erreichbarer Populationen durch niederschwellige digitale Angebote. Ein Manko der bisherigen KI-Therapeuten sei, dass sie in der Regel von IT-Fachkräften entwickelt worden seien, ohne Patienten oder Ärzte einzubinden oder über ethische Aspekte nachzudenken.

„Um eine verantwortliche Integration der digitalen Therapielösungen in Klinik und Gesellschaft zu unterstützen, müssen ethische und soziale Implikationen frühzeitig und kontext-spezifisch identifiziert und analysiert werden“, forderte Buyx.

Ergänzung, kein Ersatz

Die KI-Kollegen werden ihrer Ansicht nach den Versorgungsalltag umkrempeln – es komme zu einer „Interaktion im neuen Dreieck KI-Patient-Therapeut“. Die Gefahr bestehe, dass KI-Algorithmen unabhängig von menschlicher – ärztlicher – Führung und Expertise mit dem Patienten interagierten. Alternativlos ist für Buyx, dass der menschliche Therapeut immer die Hoheit haben müsse über die Behandlung – KI dürfe nur unterstützen, nicht selbst therapieren. Für überlegenswert hält sie die Einführung „menschlicher Personalquoten“.

Unter ethischen Gesichtspunkten müsse auch das Thema Patientenautonomie bei KI-Lösungen für die mentale Gesundheit beackert werden, mahnte Buyx. Hier bestehe die Gefahr, dass Patienten/Nutzer von zum Beispiel Avatar-Therapeuten deren Rolle missverstehen und fälschlicherweise davon ausgingen, dass alle Anwendungen medizinisch validiert seien. Kann in diesem Kontext überhaupt noch von selbstbestimmter, informierter Zustimmung gesprochen werden?

Für den pflegerischen KI-Kontext schlägt Buyx entsprechend „Blended Care-Modelle“ vor, die die Rolle der Menschen und der KI im Versorgungsalltag klar bestimmten, damit es auch hier nicht zu einer Substitution der Pflegefachkräfte kommt.

„Forschung, Forschung, Forschung!“ sieht Buyx als conditio sine qua non an, um die ethischen Belange im Umgang mit den KI-Versorgungslösungen angemessen berücksichtigen zu können.