Kommentar zur Ethikkommission der BÄK

KI: Die wichtige Frage des Systemvertrauens

Soll Künstliche Intelligenz helfen, die Versorgung zu verbessern, müssen auch ihre Risiken und Grenzen diskutiert werden. Dass sich die Ethikkommission der BÄK hier als Anwalt aller Patienten und Ärzte sieht, ist daher gut und wichtig.

Von Matthias WallenfelsMatthias Wallenfels Veröffentlicht:

Künstliche Intelligenz (KI) hat – je nach Betrachter – etwas Faszinierendes oder etwas Grauenhaftes. Nicht wegzudiskutieren ist, dass im Zuge der fortschreitenden Digitalisierung des deutschen Gesundheitswesens KI-basierte klinische Entscheidungsfindungssysteme (Clinical Decision Support Systems/CDSS) immer mehr Eingang finden werden in den medizinischen Versorgungsalltag.

KI gegenüber offen eingestellte Ärzte und Patienten mögen dies faszinierend finden, ablehnende Vertreter beider Gruppen eher grauenhaft. Fakt muss aber sein, das untermauert die Zentrale Ethikkommission (ZEKO) bei der Bundesärztekammer in ihrer jetzt veröffentlichten Stellungnahme zur „Entscheidungsunterstützung ärztlicher Tätigkeit durch Künstliche Intelligenz“, dass beide Protagonisten in unserem Gesundheitssystem ihren Platz haben – und zwar ihren berechtigten. Die ZEKO bringt hier den wichtigen Begriff des Systemvertrauens ins Spiel. Sie meint das Vertrauen in die organisierte Gesundheitsversorgung in Deutschland.

Eine rote Linie ist für sie, wenn Patienten, aber auch Ärzte mit CDSS überfordert sind und ihnen keine Alternative angeboten wird. Die ZEKO unterwirft sich also nicht einem unabdingbaren Fortschrittsglauben, dessen Vertreter KI wie eine Monstranz vor sich hertragen, sondern gibt sich auch als Anwalt der Patienten und Ärzte, die die Möglichkeiten der Technik nicht ausreizen wollen und daher auf manche Option in Diagnostik, Therapie oder auch beim Krankheitsmanagement verzichten möchten.

Das Systemvertrauen kann bei KI-Befürwortern wie -Skeptikern nur aufrechterhalten werden, wenn zumindest auf ärztlicher Seite die Bereitschaft besteht, sich mit den Chancen und Risiken KI-basierter CDSS auseinanderzusetzen. Dazu gehört auch die Bereitschaft, verstehen zu wollen, auf Basis welcher Algorithmen die KI zu welcher Aussage kommt. Das rät allein schon der gesunde Menschenverstand. Denn: KI entlässt Ärzte nicht aus der Haftung für ihr Handeln.

Schreiben Sie dem Autor: matthias.wallenfels@springer.com

Lesen sie auch
Mehr zum Thema

EU-Preis für Innovationsleistungen von Frauen

EU-Kommission prämiert Health-Gründerinnen

EU-Krebs-Mission

Datenplattform UNCAN.eu bündelt Wissen der Onkologie

Das könnte Sie auch interessieren
Digitalisierung? „Muss für Ärzte einen Mehrwert bieten!“

© [M] Scherer: Tabea Marten | Spöhrer: privat

„EvidenzUpdate“-Podcast

Digitalisierung? „Muss für Ärzte einen Mehrwert bieten!“

Digitalisierung und Datenschutz pandemiekonform: SVR-Vorsitzender Professor Ferdinand Gerlach (li.) am 24. März in Berlin bei der Vorstellung des Ratsgutachtens und der Bundesdatenschutzbeauftragte Professor Ulrich Kelber (re.) einen Tag später bei der Vorlage seines Tätigkeitsberichts.

© [M] Gerlach: Wolfgang Kumm / dpa | Kelber: Bernd von Jutrczenka / dpa

„ÄrzteTag“-Podcast

„Wir verlangen Digitalisierung mit Gehirnschmalz!“ (Streitgespräch Teil 1)

Thorsten Kaatze, kaufmännischer Direktor am Uniklinikum Essen

© UK Essen

„ÄrzteTag“-Podcast

Ein „Kochrezept“ für die Digitalisierung einer Uniklinik

Kommentare

Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte und Ärztinnen sowie andere Mitarbeiter der Gesundheitsbranche Zugriff auf mehr Hintergründe, Interviews und Praxis-Tipps.

Jetzt anmelden / registrieren »

Die Newsletter der Ärzte Zeitung

» kostenlos und direkt in Ihr Postfach

Am Morgen: Ihr individueller Themenmix

Zum Feierabend: das tagesaktuelle Telegramm

Newsletter bestellen »

Top-Meldungen
Mit Grippeimpfung kennt sich der ein oder andere Apotheker schon aus. Nun soll die Branche nach dem Willen der Länder-Gesundheitsminister auch bei der COVID-Prävention mitmachen.

© David Inderlied / dpa / picture alliance

„Mehr als einen Piks“

Corona-Impfen in Apotheken ist hoch umstritten

Inwiefern sich die Omikron-Variante in Bezug auf die Wirksamkeit von Impfstoffen vom Wildtyp und anderen Varianten unterscheidet, ist noch unklar.

© [M] Pavlo Gonchar / ZUMAPRESS.com / picture alliance

Schutz vor Omikron-Variante

Virologen und Immunologen raten zu umfassenden Kontaktbeschränkungen

An welchen Markern im Blut lassen sich Patienten mit hohem Risiko für schwere COVID erkennen und rechtzeitig behandeln?

© Dan Race / stock.adobe.com

Corona-Studien-Splitter

Menge an viraler RNA im Blut gibt Auskunft über Mortalitätsrisiko