Kommentar zur Künstlichen Intelligenz
Bei KI geht es nicht nur um High-Tech-Medizin
Ärzte müssen die Algorithmen ihrer KI-Lösungen in der Praxis verstehen. Denn auch Patienten möchten wissen, wie die KI tickt.
Veröffentlicht:
Deutschland soll zu einer weltweit führenden Nation in puncto Künstlicher Intelligenz (KI) werden – und dies langfristig auch bleiben. Dies sieht zumindest die nationale KI-Strategie der Bundesregierung vor.
Ein Bereich, der prädestiniert ist, für KI-basierte Lösungen, ist der medizinische und pflegerische Versorgungsalltag. KI soll hier den Weg ebnen für eine leistungsstarke personalisierte Medizin – vor allem in der Onkologie. Ärzte sollen von dem nimmermüden „Kollegen“ Unterstützung erfahren bei der Diagnosestellung und Therapieentscheidung.
Leistungsgrad einer KI-Lösung hängt von Algorithmen ab
Für Ärzte entscheidend ist zu verstehen, dass der Leistungsgrad einer KI-Lösung von deren Algorithmen abhängt. Wie gut wurde der „Kollege“ im Rahmen des Maschinellen Lernens mit Bildern gefüttert, und über welche Literatur und Studien- sowie anonymisierte Patientendaten verfügt er?
Das sind Fragen, mit denen sich Ärzte dringlichst auseinandersetzen sollten – und zwar bei jeder einzelnen Entscheidung zur Anschaffung einer bestimmten KI-Lösung für den Einsatz in Praxis oder Klinik.
Denn klar ist: Wer versteht, wie die KI zu ihrer Entscheidung kommt, kann auch mögliche Schwachstellen identifizieren und damit umgehen – oder auch auf die Anschaffung verzichten. Das setzt allerdings voraus – und hier könnten sich Anbieter mit Blick auf die Wettbewerber womöglich zieren –, dass industrieseitig Transparenz in puncto Algorithmen gewährt wird.
Bereiche Medizin und Pflege
Das erhoffen sich Patienten vom Einsatz der Künstlichen Intelligenz
Übrigens erwarten auch Patienten, dass Ärzte ihre künstlichen Helfer verstehen. Das zeigt eine qualitative Befragung von Patientenvertretern und ein anschließender Runder Tisch, ausgerichtet von der Plattform „Lernende Systeme“ in Kooperation mit dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), deren Ergebnisse der „Ärzte Zeitung“ vorab vorliegen Die Patientenvertreter schätzen zwar auf der einen Seite das Potenzial, das die KI für die medizinisch-pflegerische Versorgung mit sich bringt.
Sie warnen aber auch davor, dass Patienten bei Therapieentscheidungen plötzlich außen vor bleiben könnten, Ärzte sie nicht mehr einbinden. Das würde bei aller medizinischer Exzellenz, die hinter einer Therapieentscheidung steht, das ebenso wichtige Fundament einer intakten und vertrauensvollen Arzt-Patienten-Beziehung erschüttern. Was sich wiederum negativ auf die Compliance auswirken könnte.
Ärzte, die sich für KI in der Praxis entscheiden, werden also auf Fragen nach Algorithmen gefasst sein müssen – zumindest von Seiten informierter Patienten.
Schreiben Sie dem Autor: matthias.wallenfels@springer.com
