Ärzte Zeitung online, 24.11.2018

Trau, schau, wem!

Ärzte im Zeitalter von Fake News, Fake Science und bald Fake Findings?

Künstliche Intelligenz könnte Ärzte in Zukunft routinemäßig in der Diagnostik unterstützen – beim Erkennen onkologischer Muster zum Beispiel. Doch was passiert, wenn – pars pro toto – Mammografiebilder systematisch manipuliert werden?

Leitartikel von Matthias Wallenfels

227a0202_8195000-A.jpg

Mammografie-Befundung: Sind die Bilder echt oder manipuliert?

© Bernd Wüstneck / dpa

Deutschland soll unter dem Label „AI Made in Germany“ das Eldorado für Künstliche Intelligenz (KI) werden – so lässt sich zumindest die kürzlich im Rahmen ihrer Digitalklausur im Hasso Plattner-Institut in Potsdam verabschiedete KI-Strategie der Bundesregierung lesen. Doch muss nicht alles Gold sein, was im KI-Gewand glänzt. Das gilt auch und gerade für den KI-Einsatz in der Medizin – einem aus Sicht der Bundesregierung zentralen Feld für die mittels Deep Learning systematische Auswertung von Big Data.

Ein entsprechender Warnschuss kam vergangene Woche aus dem Universitätsspital Zürich (USZ). Wie Forscher des USZ betonen, bietet KI in der modernen Radiologie großes Potenzial, sie sei aber auch mit Risiken verbunden. In einer Studie will das USZ erstmals gezeigt haben, dass Cyberkriminelle in Zukunft versuchen könnten, radiologische Bilder zu manipulieren. Dieses heute erst theoretische Szenario müsse bei der Entwicklung von neuer Hard- und Software berücksichtigt werden, fordern sie.

Radiologen erkannten die Fälschungen nicht

Für ihre Studie trainierten die Forscher ein Programm mit 680 Mammografien von 334 Patientinnen. Das Programm sollte lernen, Bilder, die Krebs zeigen, in gesunde Aufnahmen umzuwandeln und umgekehrt. So untersuchten die Forscher, ob es mittels KI möglich ist, krebsspezifische Merkmale realistisch in Mammografien einzubringen oder zu entfernen. Die in der Studie manipulierten Bilder seien drei Radiologen zur Begutachtung vorgelegt worden. Diese sollten beurteilen, ob die Bilder echt oder manipuliert sind. Das Resultat laut USZ: Keiner der Radiologen konnte dies zuverlässig unterscheiden.

„Künstliche Intelligenz ist in der Lage zu lernen, wie Brustkrebs aussieht. Das hilft uns in der Diagnostik“, erklärt Dr. Anton Becker, Radiologe am USZ und Erstautor der Studie. „Nun haben wir gezeigt, dass sie auch in der Lage ist, Krebs in Mammografien gesunder Patienten einzubringen oder zu entfernen und durch normal aussehendes Gewebe im Bild zu ersetzen.“

Manipulationen durch KI sind aber keineswegs nur in der Radiologie denkbar. Die Digitalisierung der medizinischen Versorgung in Kliniken, der großes Potenzial zugetraut wird, eröffnet viele weitere Möglichkeiten. So könnten zum Beispiel durch die Digitalisierung und das algorithmengestützte Korrelieren der radiologischen, endoskopischen sowie pathohistologischen Muster Operateure bei der Diagnostik und Eingriffsplanung gezielt unterstützt werden, erläuterte Professor Jochen Werner, Ärztlicher Direktor und Vorstandsvorsitzender der Universitätsmedizin Essen, im Februar am Rande des Fachkongresses „Emerging Technologies in Medicine“ in Essen im Gespräch mit der „Ärzte Zeitung“. Somit könnte das Korrelieren falscher Befunde mit weiteren Daten – unwillentlich, aber unweigerlich – zu Folgemanipulationen führen.

Eine entsprechende Cyberattacke zur Manipulation von Röntgenbildern wird allerdings noch für einige Zeit nicht durchführbar sein, gibt USZ-Experte Becker Entwarnung, ein Grund zur Sorge bestehe daher heute nicht. Er unterstreicht jedoch die Wichtigkeit, dass die medizinische Fachwelt sowie Hard- und Softwareanbieter das Bewusstsein für Cyberattacken entwickeln und die notwendigen Anpassungen vornehmen. Wichtig sei, das Problem anzugehen, solange es noch theoretisch ist.

Vor allem für jüngere Ärzte, die ausgereifte KI- Lösungen später als integralen Bestandteil ihres individuellen Versorgungsgeschehens begreifen sollten, heißt dies, höchst sensibel mit Informationen im schnelllebigen Zeitalter der Digitalisierung umzugehen. Es bedarf des kritischen Einsatzes menschlicher Intelligenz, um nicht den um sich greifenden „Fake News“ auf den Leim zu gehen.

Auch Cyberkriminelle werden mit KI aufrüsten

Auch Fake Science – wertlose pseudowissenschaftliche Veröffentlichungen ohne inhaltliche Prüfung, getrieben durch „Raubverlage“, „Pseudojournale“ und „Pseudokongresse“, die Wissenschaftlichkeit vorgeben, jedoch die Grundprinzipien der Wissenschaftlichkeit zugunsten rein wirtschaftlicher Interessen fundamental missachten – könnten Mediziner in die Irre führen. Nicht umsonst hat die Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften bereits zu mehr Problembewusstsein bei pseudowissenschaftlicher Forschung aufgerufen und fordert härtere Standards, um die Spreu vom Weizen zu trennen.

Zu Fake News und Fake Science könnten künftig also auch Fake Findings – manipulierte Befunde – kommen. Der Haken daran: Geht ein Arzt solchen Manipulationen auf den Leim, so droht ihm eine völlig neue Qualität an Schadenersatzforderungen. „Trau, schau, wem!“ – diese Redewendung aus noch weitgehend analogen Zeiten gilt auch in der KI-Ära weiter.

Eines ist leider sicher: Der Diebstahl oder die Manipulation von Gesundheitsdaten kann ein immer lukrativeres Geschäft für Cyberkriminelle werden. Und auch diese werden mit dem Fortschritt mithalten wollen, wenn sie es finanziell können. Sie werden ihrerseits in KI investieren. Dieser Gefahr sollten sich alle Ärzte – ob alt oder jung – auch heute schon bewusst sein.

Weitere Beiträge aus diesem Themenbereich

Schreiben Sie einen Kommentar

Überschrift

Text

Die Newsletter der Ärzte Zeitung

Lesen Sie alles wichtige aus den Bereichen Medizin, Gesundheitspolitik und Praxis und Wirtschaft.

NEU als Themen abonnierbar: Frauengesundheit und Kindergesundheit

Sauerbruch – ein Arzt mit vielen Facetten

Er war bereits zu Lebzeiten ein berühmter Arzt. Das Medizinhistorische Museum der Charité versucht, die vielen Facetten im Leben und Wirken von Ferdinand Sauerbruch zu fassen. mehr »

Gut eine halbe Milliarde Euro mehr Honorar

Ärzte und Krankenkassen haben ihre Honorarverhandlungen für 2020 abgeschlossen. Künftig werden Videosprechstunden besser vergütet. mehr »

Zeitdruck und Kollegen stressen im Büro

Im Vergleich zu den USA oder Japan sind die Arbeitszeiten in Deutschland eher kurz. Doch das heißt nicht, dass es am Arbeitsplatz entspannt zugeht. mehr »