Medica

KI-Therapeuten müssen sich den Ethikregeln beugen!

Eher Wildwuchs denn geordnete Strukturen – so könnte man den Umgang mit digitalen Versorgungslösungen für mentale Gesundheit sehen. Eine Medizinethikerin sieht hier dringenden Handlungsbedarf.

Von Matthias Wallenfels Veröffentlicht:
Ethikratmitglied Professor Alena M. Buyx plädierte bei der Medica für intensive Forschung im Bereich KI und mentale Gesundheit.

Ethikratmitglied Professor Alena M. Buyx plädierte bei der Medica für intensive Forschung im Bereich KI und mentale Gesundheit.

© Wallenfels

Düsseldorf. Wer in Deutschland über das Potenzial des Einsatzes Künstlicher Intelligenz (KI) im medizinischen und pflegerischen Kontext diskutiert, weist zumeist auf die Verheißungen für die Diagnostik und individuelle (onkologische) Therapiefindung hin. Vollkommen ausgeblendet werde hingegen der vielversprechende Bereich des KI-Einsatzes im Kontext der mentalen Gesundheit.

Dies monierte Professor Alena M. Buyx, Direktorin des Instituts für Geschichte und Ethik der Medizin, Lehrstuhl für Ethik der Medizin und Gesundheitstechnologien der Technischen Universität München, am Dienstag in Düsseldorf auf der weltgrößten Medizinmesse Medica im Rahmen des diesjährigen Medica Econ Forums der Techniker Krankenkasse (TK).

Agieren im vulnerabelsten Bereich

Das Feld werde international bereits von einigen Playern bespielt, so Buyx, die seit 2016 auch Mitglied im Deutschen Ethikrat ist. So werde der an der University of Southern California entwickelte Avatar „Ellie“ zum Beispiel eingesetzt, um im Gespräch mit Menschen Anzeichen für Depressionen zu erkennen. Der Therapieroboter „Kaspar“ helfe autistischen Kindern, Kontakt mit anderen Menschen aufnehmen zu können. Andere KI-basierte Roboter würden zur Therapie bei pädophilen Patienten eingesetzt – einer Zielgruppe, die von Psychotherapeuten nur schwer zu erreichen sei. Companion Bots wie die in Japan entwickelte Computerrobbe Paro werden im Pflegekontext bei demenzkranken Patienten eingesetzt, um der zunehmenden Vereinsamung zu begegnen – sie nähmen Paro und Konsorten als echte Tiere wahr.

Es sei höchste Zeit, so Buyx, solche Lösungen im Hinblick auf ihre Chancen und Risiken unter dem ethischen Aspekt zu diskutieren. Der Knackpunkt für sie: Die Mensch-Maschine-Interaktion betreffe den vulnerabelsten Lebensbereich der Patienten. Zugleich könnten diese Lösungen aber potenziell dazu beitragen, Versorgungslücken bei der mentalen Gesundheit zu schließen – nicht nur im räumlichen Sinne, sondern auch durch das Ansprechen schwer erreichbarer Populationen durch niederschwellige digitale Angebote. Ein Manko der bisherigen KI-Therapeuten sei, dass sie in der Regel von IT-Fachkräften entwickelt worden seien, ohne Patienten oder Ärzte einzubinden oder über ethische Aspekte nachzudenken.

„Um eine verantwortliche Integration der digitalen Therapielösungen in Klinik und Gesellschaft zu unterstützen, müssen ethische und soziale Implikationen frühzeitig und kontext-spezifisch identifiziert und analysiert werden“, forderte Buyx.

Ergänzung, kein Ersatz

Die KI-Kollegen werden ihrer Ansicht nach den Versorgungsalltag umkrempeln – es komme zu einer „Interaktion im neuen Dreieck KI-Patient-Therapeut“. Die Gefahr bestehe, dass KI-Algorithmen unabhängig von menschlicher – ärztlicher – Führung und Expertise mit dem Patienten interagierten. Alternativlos ist für Buyx, dass der menschliche Therapeut immer die Hoheit haben müsse über die Behandlung – KI dürfe nur unterstützen, nicht selbst therapieren. Für überlegenswert hält sie die Einführung „menschlicher Personalquoten“.

Unter ethischen Gesichtspunkten müsse auch das Thema Patientenautonomie bei KI-Lösungen für die mentale Gesundheit beackert werden, mahnte Buyx. Hier bestehe die Gefahr, dass Patienten/Nutzer von zum Beispiel Avatar-Therapeuten deren Rolle missverstehen und fälschlicherweise davon ausgingen, dass alle Anwendungen medizinisch validiert seien. Kann in diesem Kontext überhaupt noch von selbstbestimmter, informierter Zustimmung gesprochen werden?

Für den pflegerischen KI-Kontext schlägt Buyx entsprechend „Blended Care-Modelle“ vor, die die Rolle der Menschen und der KI im Versorgungsalltag klar bestimmten, damit es auch hier nicht zu einer Substitution der Pflegefachkräfte kommt.

„Forschung, Forschung, Forschung!“ sieht Buyx als conditio sine qua non an, um die ethischen Belange im Umgang mit den KI-Versorgungslösungen angemessen berücksichtigen zu können.

Ihr Newsletter zum Thema
Mehr zum Thema

Nicht grundsätzlich in Frage gestellt

ePA: KV Hamburg zwischen Skepsis und „Lust am Ausprobieren“

Das könnte Sie auch interessieren
Ein Roboter, der Akten wälzt? Künstliche Intelligenz kann bereits mit Leitlinien umgehen – jedenfalls wenn sie so gut strukturiert sind wie die der DEGAM.

© Iaroslav / stock.adobe.com

Digitalisierung in der Medizin

Kollegin Dr. ChatGPT? Wie Künstliche Intelligenz Ärzten helfen könnte

Digital und innovativ: Klinikum Siegen überzeugt von Fluency Direct

© Solventum Germany GmbH

Solventum Spracherkennung

Digital und innovativ: Klinikum Siegen überzeugt von Fluency Direct

Anzeige | 3M Healthcare Germany GmbH
Wie patientenzentriert ist unser Gesundheitssystem?

© Janssen-Cilag GmbH

Video

Wie patientenzentriert ist unser Gesundheitssystem?

Kooperation | In Kooperation mit: Janssen-Cilag GmbH
Höhen- oder Sturzflug?

© oatawa / stock.adobe.com

Zukunft Gesundheitswesen

Höhen- oder Sturzflug?

Kooperation | In Kooperation mit: Janssen-Cilag GmbH
Patientenzentrierte Versorgung dank ePA & Co?

© MQ-Illustrations / stock.adobe.com

Digitalisierung

Patientenzentrierte Versorgung dank ePA & Co?

Kooperation | In Kooperation mit: Janssen-Cilag GmbH
Kommentare
Carl Billmann, Leiter der Stabsstelle IT, Marketing & Kommunikation bei BillmaMED, Medizinstudent mit dem Berufsziel Dermatologe.

© Doctolib

Interview

„Am Empfang haben wir Stress rausgenommen“

Sonderbericht | Mit freundlicher Unterstützung von: Doctolib GmbH
Die Patientin tippt ihre Nachricht ins Smartphone, das Praxisteam antwortet direkt über
den Desktop. So sind Vereinbarungen über ein E-Rezept oder eine Befundmitteilung vom Facharzt schnell übermittelt.

© [M] Springer Medizin Verlag | Foto: A_B_C / stock.adobe .com

Digitale Patientenkommunikation

„Das Potenzial für die Zeitersparnis ist riesig“

Sonderbericht | Mit freundlicher Unterstützung von: Doctolib GmbH
Dr. Antigone Fritz und Hubertus Müller sitzen trocken am PC. Dort zu sehen: ein Bild vom Hochwasser in Erftstadt vor drei Jahren.

© MLP

Gut abgesichert bei Naturkatastrophen

Hochwasser in der Praxis? Ein Fall für die Versicherung!

Sonderbericht | Mit freundlicher Unterstützung von: MLP
Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte und Ärztinnen sowie andere Mitarbeiter der Gesundheitsbranche Zugriff auf mehr Hintergründe, Interviews und Praxis-Tipps.

Haben Sie schon unsere Newsletter abonniert?

Von Diabetologie bis E-Health: Unsere praxisrelevanten Themen-Newsletter.

Das war der Tag: Der tägliche Nachrichtenüberblick mit den neuesten Infos aus Gesundheitspolitik, Medizin, Beruf und Praxis-/Klinikalltag.

Eil-Meldungen: Erhalten Sie die wichtigsten Nachrichten direkt zugestellt!

Newsletter bestellen »

Top-Meldungen
Lesetipps
Eine Toilettenspülung.

© Paul Eckenroth / picture alliance / JOKER

Infektionsrisiko

RKI meldet erneut Polioviren in Abwasserproben