Medica

KI-Therapeuten müssen sich den Ethikregeln beugen!

Eher Wildwuchs denn geordnete Strukturen – so könnte man den Umgang mit digitalen Versorgungslösungen für mentale Gesundheit sehen. Eine Medizinethikerin sieht hier dringenden Handlungsbedarf.

Von Matthias Wallenfels Veröffentlicht:
Ethikratmitglied Professor Alena M. Buyx plädierte bei der Medica für intensive Forschung im Bereich KI und mentale Gesundheit.

Ethikratmitglied Professor Alena M. Buyx plädierte bei der Medica für intensive Forschung im Bereich KI und mentale Gesundheit.

© Wallenfels

Düsseldorf. Wer in Deutschland über das Potenzial des Einsatzes Künstlicher Intelligenz (KI) im medizinischen und pflegerischen Kontext diskutiert, weist zumeist auf die Verheißungen für die Diagnostik und individuelle (onkologische) Therapiefindung hin. Vollkommen ausgeblendet werde hingegen der vielversprechende Bereich des KI-Einsatzes im Kontext der mentalen Gesundheit.

Dies monierte Professor Alena M. Buyx, Direktorin des Instituts für Geschichte und Ethik der Medizin, Lehrstuhl für Ethik der Medizin und Gesundheitstechnologien der Technischen Universität München, am Dienstag in Düsseldorf auf der weltgrößten Medizinmesse Medica im Rahmen des diesjährigen Medica Econ Forums der Techniker Krankenkasse (TK).

Agieren im vulnerabelsten Bereich

Das Feld werde international bereits von einigen Playern bespielt, so Buyx, die seit 2016 auch Mitglied im Deutschen Ethikrat ist. So werde der an der University of Southern California entwickelte Avatar „Ellie“ zum Beispiel eingesetzt, um im Gespräch mit Menschen Anzeichen für Depressionen zu erkennen. Der Therapieroboter „Kaspar“ helfe autistischen Kindern, Kontakt mit anderen Menschen aufnehmen zu können. Andere KI-basierte Roboter würden zur Therapie bei pädophilen Patienten eingesetzt – einer Zielgruppe, die von Psychotherapeuten nur schwer zu erreichen sei. Companion Bots wie die in Japan entwickelte Computerrobbe Paro werden im Pflegekontext bei demenzkranken Patienten eingesetzt, um der zunehmenden Vereinsamung zu begegnen – sie nähmen Paro und Konsorten als echte Tiere wahr.

Es sei höchste Zeit, so Buyx, solche Lösungen im Hinblick auf ihre Chancen und Risiken unter dem ethischen Aspekt zu diskutieren. Der Knackpunkt für sie: Die Mensch-Maschine-Interaktion betreffe den vulnerabelsten Lebensbereich der Patienten. Zugleich könnten diese Lösungen aber potenziell dazu beitragen, Versorgungslücken bei der mentalen Gesundheit zu schließen – nicht nur im räumlichen Sinne, sondern auch durch das Ansprechen schwer erreichbarer Populationen durch niederschwellige digitale Angebote. Ein Manko der bisherigen KI-Therapeuten sei, dass sie in der Regel von IT-Fachkräften entwickelt worden seien, ohne Patienten oder Ärzte einzubinden oder über ethische Aspekte nachzudenken.

„Um eine verantwortliche Integration der digitalen Therapielösungen in Klinik und Gesellschaft zu unterstützen, müssen ethische und soziale Implikationen frühzeitig und kontext-spezifisch identifiziert und analysiert werden“, forderte Buyx.

Ergänzung, kein Ersatz

Die KI-Kollegen werden ihrer Ansicht nach den Versorgungsalltag umkrempeln – es komme zu einer „Interaktion im neuen Dreieck KI-Patient-Therapeut“. Die Gefahr bestehe, dass KI-Algorithmen unabhängig von menschlicher – ärztlicher – Führung und Expertise mit dem Patienten interagierten. Alternativlos ist für Buyx, dass der menschliche Therapeut immer die Hoheit haben müsse über die Behandlung – KI dürfe nur unterstützen, nicht selbst therapieren. Für überlegenswert hält sie die Einführung „menschlicher Personalquoten“.

Unter ethischen Gesichtspunkten müsse auch das Thema Patientenautonomie bei KI-Lösungen für die mentale Gesundheit beackert werden, mahnte Buyx. Hier bestehe die Gefahr, dass Patienten/Nutzer von zum Beispiel Avatar-Therapeuten deren Rolle missverstehen und fälschlicherweise davon ausgingen, dass alle Anwendungen medizinisch validiert seien. Kann in diesem Kontext überhaupt noch von selbstbestimmter, informierter Zustimmung gesprochen werden?

Für den pflegerischen KI-Kontext schlägt Buyx entsprechend „Blended Care-Modelle“ vor, die die Rolle der Menschen und der KI im Versorgungsalltag klar bestimmten, damit es auch hier nicht zu einer Substitution der Pflegefachkräfte kommt.

„Forschung, Forschung, Forschung!“ sieht Buyx als conditio sine qua non an, um die ethischen Belange im Umgang mit den KI-Versorgungslösungen angemessen berücksichtigen zu können.

Mehr zum Thema
Kommentare
Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte und Ärztinnen sowie andere Mitarbeiter der Gesundheitsbranche Zugriff auf mehr Hintergründe, Interviews und Praxis-Tipps.

Jetzt anmelden »Kostenlos registrieren »

Die Newsletter der Ärzte Zeitung

» kostenlos und direkt in Ihr Postfach

Am Morgen: Ihr individueller Themenmix

Zum Feierabend: das tagesaktuelle Telegramm

Newsletter bestellen »

Top-Meldungen
Was aus dem Salzstreuer kommt, ist nicht egal. Salz ist nicht gleich Salz. Herz und Gefäße profitieren von einem hohen Anteil Kaliumchlorid.

© Daniel Vincek / stock.adobe.com

Review und Metaanalyse

Viel Kaliumchlorid im Salz bringt Vorteile für Herz und Gefäße

Zwischen kardiovaskulären Erkrankungen und psychischen Störungen gibt es Zusammenhänge. Welche das sind, wird derzeit erforscht.

© paul_craft / stock.adobe.com

Kardio- und Neurologie

Bei frisch diagnostizierten Herzpatienten auf die Psyche achten!

Bundesweit soll es weiterhin eine Maskenpflicht in Bus, Bahn und Flugzeug geben, so sieht es der Entwurf des neuen Infektionsschutzgesetzes vor.

© Daniel Kubirski / picture alliance

Geplante Novelle

Infektionsschutz: Kakofonie der Änderungswünsche