Unterstützung klinischer Entscheidungen

Zentrale Ethikkomission der BÄK setzt enge Grenzen für KI

Die rote Linie beim Einsatz auf KI basierender Entscheidungsfindungssysteme ist für die Zentrale Ethikkommission der BÄK das Systemvertrauen.

Von Matthias WallenfelsMatthias Wallenfels Veröffentlicht:
Smartphone mit Stethoskop.

Künstliche Intelligenz kann Ärzte in der klinischen Entscheidungsfindung sinnvoll unterstützen, findet die Zentrale Ethikkommission der Bundesärztekammer. Dabei müssten die Ärzte Chancen und Risiken genauso im Blick haben wie die Patientenbelange, mahnt sie.

© greenbutterfly / stock.adobe.com

Berlin. Ob als Unterstützung zum Definieren einer optimierten Schmerztherapie bei Krebspatienten oder zum verbesserten Blutzuckermanagement bei Diabetikern, IT-basierte Systeme zur klinischen Entscheidungsfindung – Clinical Decision Support Systems (CDSS) – sind auf dem Vormarsch im medizinischen und pflegerischen Versorgungsalltag. Der gerade erst richtig aufblühende Trend zum Einsatz Künstlicher Intelligenz (KI) zur Entlastung und Unterstützung von zum Beispiel Ärzten im Behandlungsalltag verspricht noch viel Potenzial in puncto CDSS.

Die Bundesärztekammer (BÄK) unterstreicht den Bedarf an CDSS, damit „dem behandelnden Arzt jederzeit zielgerichtet aktuelles medizinisches Wissen zugänglich“ gemacht wird. Gleichwohl sind die Rahmenbedingungen des Einsatzes dieser neuen Technologien dynamisch und ist der Einsatz mit ethischen, rechtlichen und sozialen Herausforderungen verknüpft.

Lesen sie auch

Daher hat die Zentrale Ethikkommission (ZEKO) bei der BÄK eine Stellungnahme zur „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“ erarbeitet. Die ZEKO gibt ein Bekenntnis zum Einsatz KI-basierter CDSS ab, die vielfältige Möglichkeiten der Verbesserung der Patientenversorgung böten. Dies sei „aber auch mit verschiedenen Herausforderungen verbunden, die etwa die klare Zuschreibung von Verantwortlichkeiten, die Transparenz der Datengenerierung, den Schutz von Autonomie,

Ärzte und Ärztinnen müssen aus dem neuen Mensch-Maschine-Bezug resultierende moralische Herausforderungen ernst nehmen.

Zentrale Ethikkommission bei der Bundesärztekammer, Stellungnahme zur „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“

Vertrauen und Privatheit sowie die Qualität der Kommunikation zwischen Ärzten und Patienten betreffen. Vor diesem Hintergrund stellt eine frühzeitige und ausgewogene Abwägung von Chancen und Risiken eine wichtige ethische Aufgabe im Hinblick auf die Gesundheitsversorgung der Zukunft dar. Dies kann nur gelingen, wenn aus dem neuen Mensch-Maschine-Bezug resultierende moralische Herausforderungen ernst genommen werden“, heißt es in der Stellungnahme.

Mindestens gleiche, idealerweise bessere Versorgung

Als Conditio sine qua non für den ärztlichen Einsatz KI-basierter CDSS am Patienten postuliert die ZEKO, dass Ärzte wie auch Patienten darauf vertrauen können müssten, dass durch deren – korrekten – Einsatz „eine mindestens gleiche, idealerweise bessere Versorgung möglich wird.“ Patienten müssten zudem darauf vertrauen können, dass sie – weiterhin – als Person, ihr Wohl und selbstbestimmter Wille im Zentrum der Versorgung stünden und sie nicht den Eindruck bekämen, auf ihre Daten reduziert zu werden.

Eine weitere rote Linie für die ZEKO: „Ebenso sind sie darauf angewiesen, alle für sie relevanten Informationen für eine nicht nur rechtswirksame, sondern tatsächlich autonome Einwilligung in bestimmte Behandlungsvorschläge zu erhalten.“ Wo dies nicht der Fall sei, drohe eine Erosion des für die Erbringung medizinischer Leistungen unabdingbaren Systemvertrauens. Dieses Systemvertrauen zu bewahren, ist, wie die ZEKO unmissverständlich betont, eine Aufgabe der Ärzteschaft – auch dort, wo Ärzte bei Fehlentwicklungen durch den Einsatz von CDSS als Fürsprecher für ihre Patienten aufträten. Zentrale ethische Fragen beträfen auch mögliche Ansprüche von Patienten, ohne den Einsatz von KI behandelt zu werden, so die ZEKO.
Lesen sie auch
Mehr zum Thema

Institut für Digitale Allgemeinmedizin

Seltene Krankheiten: Mit Künstlicher Intelligenz fixer zur Diagnose

Digitalisierung in der Onkologie

Digitale Organ-Zwillinge kommen noch in der Dekade

Sonderbericht | Mit freundlicher Unterstützung von: Vision Zero e.V.
Das könnte Sie auch interessieren
Digitalisierung? „Muss für Ärzte einen Mehrwert bieten!“

© [M] Scherer: Tabea Marten | Spöhrer: privat

„EvidenzUpdate“-Podcast

Digitalisierung? „Muss für Ärzte einen Mehrwert bieten!“

Digitalisierung und Datenschutz pandemiekonform: SVR-Vorsitzender Professor Ferdinand Gerlach (li.) am 24. März in Berlin bei der Vorstellung des Ratsgutachtens und der Bundesdatenschutzbeauftragte Professor Ulrich Kelber (re.) einen Tag später bei der Vorlage seines Tätigkeitsberichts.

© [M] Gerlach: Wolfgang Kumm / dpa | Kelber: Bernd von Jutrczenka / dpa

„ÄrzteTag“-Podcast

„Wir verlangen Digitalisierung mit Gehirnschmalz!“ (Streitgespräch Teil 1)

Thorsten Kaatze, kaufmännischer Direktor am Uniklinikum Essen

© UK Essen

„ÄrzteTag“-Podcast

Ein „Kochrezept“ für die Digitalisierung einer Uniklinik

Kommentare

Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte und Ärztinnen sowie andere Mitarbeiter der Gesundheitsbranche Zugriff auf mehr Hintergründe, Interviews und Praxis-Tipps.

Jetzt anmelden / registrieren »

Die Newsletter der Ärzte Zeitung

» kostenlos und direkt in Ihr Postfach

Am Morgen: Ihr individueller Themenmix

Zum Feierabend: das tagesaktuelle Telegramm

Newsletter bestellen »

Top-Meldungen
Thoraxchirurg Dr. Günther Matheis.

© Porträt: Engelmohr | Hirn: gran

„ÄrzteTag“-Podcast

„Dann geht die Freiberuflichkeit von uns Ärzten flöten!“

Klaus Holetschek: „Profit darf nie die treibende Kraft hinter gesundheitlichen Angeboten sein.“

© Frank Hoermann / SvenSimon / picture alliance (Archivbild)

Medizinische Versorgungszentren

Holetschek warnt vor Finanzinvestoren in der Gesundheitsversorgung