Kommentar zur Künstlichen Intelligenz

Bei KI geht es nicht nur um High-Tech-Medizin

Ärzte müssen die Algorithmen ihrer KI-Lösungen in der Praxis verstehen. Denn auch Patienten möchten wissen, wie die KI tickt.

Von Matthias WallenfelsMatthias Wallenfels Veröffentlicht: 27.10.2020, 04:44 Uhr

Deutschland soll zu einer weltweit führenden Nation in puncto Künstlicher Intelligenz (KI) werden – und dies langfristig auch bleiben. Dies sieht zumindest die nationale KI-Strategie der Bundesregierung vor.

Ein Bereich, der prädestiniert ist, für KI-basierte Lösungen, ist der medizinische und pflegerische Versorgungsalltag. KI soll hier den Weg ebnen für eine leistungsstarke personalisierte Medizin – vor allem in der Onkologie. Ärzte sollen von dem nimmermüden „Kollegen“ Unterstützung erfahren bei der Diagnosestellung und Therapieentscheidung.

Leistungsgrad einer KI-Lösung hängt von Algorithmen ab

Für Ärzte entscheidend ist zu verstehen, dass der Leistungsgrad einer KI-Lösung von deren Algorithmen abhängt. Wie gut wurde der „Kollege“ im Rahmen des Maschinellen Lernens mit Bildern gefüttert, und über welche Literatur und Studien- sowie anonymisierte Patientendaten verfügt er?

Das sind Fragen, mit denen sich Ärzte dringlichst auseinandersetzen sollten – und zwar bei jeder einzelnen Entscheidung zur Anschaffung einer bestimmten KI-Lösung für den Einsatz in Praxis oder Klinik.

Denn klar ist: Wer versteht, wie die KI zu ihrer Entscheidung kommt, kann auch mögliche Schwachstellen identifizieren und damit umgehen – oder auch auf die Anschaffung verzichten. Das setzt allerdings voraus – und hier könnten sich Anbieter mit Blick auf die Wettbewerber womöglich zieren –, dass industrieseitig Transparenz in puncto Algorithmen gewährt wird.

Übrigens erwarten auch Patienten, dass Ärzte ihre künstlichen Helfer verstehen. Das zeigt eine qualitative Befragung von Patientenvertretern und ein anschließender Runder Tisch, ausgerichtet von der Plattform „Lernende Systeme“ in Kooperation mit dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), deren Ergebnisse der „Ärzte Zeitung“ vorab vorliegen Die Patientenvertreter schätzen zwar auf der einen Seite das Potenzial, das die KI für die medizinisch-pflegerische Versorgung mit sich bringt.

Sie warnen aber auch davor, dass Patienten bei Therapieentscheidungen plötzlich außen vor bleiben könnten, Ärzte sie nicht mehr einbinden. Das würde bei aller medizinischer Exzellenz, die hinter einer Therapieentscheidung steht, das ebenso wichtige Fundament einer intakten und vertrauensvollen Arzt-Patienten-Beziehung erschüttern. Was sich wiederum negativ auf die Compliance auswirken könnte.

Ärzte, die sich für KI in der Praxis entscheiden, werden also auf Fragen nach Algorithmen gefasst sein müssen – zumindest von Seiten informierter Patienten.

Schreiben Sie dem Autor: matthias.wallenfels@springer.com

Mehr zum Thema

Künstliche Intelligenz

VDE klärt auf zu MedTech-KI

Kommentare

Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Die Newsletter der Ärzte Zeitung

Lesen Sie alles wichtige aus den Bereichen Medizin, Gesundheitspolitik und Praxis und Wirtschaft.

NEU als Themen abonnierbar: Frauengesundheit und Kindergesundheit

Newsletter bestellen »

Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte, Medizinstudenten, MFA und weitere Personengruppen viele Vorteile.

Die Anmeldung ist mit wenigen Klicks erledigt.

Jetzt anmelden / registrieren »

Top-Meldungen
Check von und Lunge und Herz: Bei COPD-Patienten, die eine relevante kardiovaskuläre Erkrankung aufweisen, ist das Risiko für schwere COVID-19-Verläufe deutlich erhöht.

Schwere Verläufe

Pneumologen definieren COVID-19-Risiken für Lungenkranke

Ein Schild weist auf ein Corona-Testzentrum hin. Neue Regelungen sollen zum 1. Dezember kommen.

COVID-19-Pandemie

Neue Corona-Testverordnung ab Dezember