Big Data und Künstliche Intelligenz

Warnung vor unhaltbaren Heilsversprechen

Viele sehen in Big Data und Künstlicher Intelligenz die Zukunft der Medizin. Doch es gibt auch warnende Stimmen, wie auf einem Kolloquium in Wien deutlich wurde.

Von Andrea Fried Veröffentlicht:
OP der Zukunft? Wohl noch nicht in diesem Jahrhundert, meinen KI-Experten.

OP der Zukunft? Wohl noch nicht in diesem Jahrhundert, meinen KI-Experten.

© pgottschalk / stock.adobe.com

Wien. Der deutsche Mathematiker und Methodenwissenschaftler Gerd Antes warnt bei der Bewertung von Künstlicher Intelligenz und Big Data in der Medizin vor einem unreflektierten Hype und unhaltbaren Heilsversprechungen.

„Wir werden täglich mit Schlagworten wie Digital Health, künstliche Intelligenz und personalisierte Medizin überschwemmt. Die zentrale Botschaft lautet: Alles wird besser. In diesem Hype werden jedoch alle grundlegenden Kriterien der Wissenschaft ignoriert“, betonte Antes bei einem Colloquium der Gesundheit Österreich in Wien.

Der Wissenschaftler war viele Jahre Leiter des Deutschen Cochrane Zentrums in Freiburg und gilt als Wegbereiter der evidenzbasierten Medizin im deutschsprachigen Raum.

Aktuelle Euphorie

Darauf basiert auch seine kritische Haltung beim Thema Digitalisierung. „Jede neue Technologie muss auf ihren Nutzen, Schaden und ihre Kosten hin untersucht werden“, sagte Antes in Wien. Dies werde allerdings in der aktuellen Euphorie gerne ignoriert.

Besonders die großen Erwartungen an „Big Data“ sind Antes ein Dorn im Auge: „Dafür gibt es nicht einmal eine Definition. Die Menschen wissen nicht, wovon sie sprechen“. Aus wissenschaftlicher Sicht sei für ihn klar: Mehr Daten bedeuteten nicht automatisch mehr Wissen. Die Idee basiere auf der falschen Annahme, dass man riesige Datenmengen völlig unstrukturiert und unsystematisch durchwühlen kann und dabei auf sinnvolle Zusammenhänge stößt.

Professor Gerd Antes ist ein deutscher Mathematiker und Biometriker.

Professor Gerd Antes ist ein deutscher Mathematiker und Biometriker.

© privat

„Das ist wissenschaftlicher Unfug und kann nicht funktionieren. Big Data ist ein Hype, der uns geradewegs in eine Falle führt“, argumentierte Antes. Die Grundlage wissenschaftlichen Arbeitens sei es, mit Hilfe von Theorie und Daten Hypothesen zu generieren, die empirisch durch Studien bestätigt oder widerlegt werden müssen.

„Sucht man in riesigen Datenmengen einfach nach Korrelationen, dann kommt da unglaublich viel Schwachsinn heraus. Das ist wie das Suchen nach einer Nadel im Heuhaufen. Durch Big Data macht man jedoch den Heuhaufen nur noch größer“, sagte der Experte für evidenzbasierte Medizin.

„Staatsräson und Ideologie“

Auch die Heilsversprechungen unter dem Schlagwort „Künstlichen Intelligenz“ kritisierte Antes beim Kolloquium: „Visionäre beschreiben eine Zukunft, in der Maschinen den Menschen abhängen, die er nicht mehr versteht. Alles soll digitalisiert werden, Sinn und Nutzen spielen dabei keine Rolle“. Die Digitalisierung sei zur Staatsräson und Ideologie geworden.

„Auch die Ärzteschaft scheint sich davon anstecken oder sogar einschüchtern zu lassen“, warnte der Wissenschaftler. Er forderte mehr Realitätsbezug in der Diskussion und eine breit angelegte, wissenschaftlich hochwertige Technikfolgenabschätzung.

Denn auch bei digitalen Anwendungen seien Nutzen und Risiken zu prüfen. Und eines sei dabei ganz besonders wichtig: „Selbst bei größter Technikgläubigkeit darf die Auswirkungen auf die Menschlichkeit in der Medizin nicht übersehen werden.“

Ärzte Zeitung: Professor Antes, werden wir 2030 noch zum Arzt gehen?

Gerd Antes: Betrachtet man den gegenwärtigen Hype um Personalisierte oder Präzisionsmedizin, Künstliche Intelligenz (KI), Big Data und weitere Verbündete, so bleibt eigentlich keine Alternative, als ein arztbesuchsfreies 2030 zu erwarten. Man muss allerdings nicht sehr genau hinsehen, um die Leere vieler dieser Versprechungen zu erkennen.

Es werden so viele fundamentale Grundlagen der Wissensentstehung verletzt, dass es nur eine Frage der Zeit ist, wann diese offensichtlich und nachgewiesen werden. In technischen Zusammenhängen mag das als Sachschäden und Verschwendung akzeptiert werden, in der Medizin bedeutet es Krankheit und Tod.

Die Medizin ist zu komplex und voller nichtvorhersagbarer, unerwarteter Entwicklungen, um sie automatisierten Verfahren überlassen zu können. Deswegen für 2030: Wem seine Gesundheit lieb ist, sollte Arztbesuche auf jeden Fall nicht aufgeben, natürlich in technisch bestens ausgestatteten Praxen und Kliniken.

Was genau wird KI in der Medizin dann leisten können?

Dieses Themengebiet ist außerordentlich verwirrend, vor allem durch die fehlenden Definitionen der einzelnen Begrifflichkeiten. Gerade bei der sogenannten KI ist das besonders auffällig, da diese zwei Buchstaben für alles die Lösung zu sein scheinen.

Erstaunlich dabei ist, dass statt einer nach Möglichkeit detaillierten Beschreibung der methodischen Komponenten das Schlagwort KI ausreicht und bestenfalls durch weitere Schlagworte wie „Deep Learning“ oder „Neuronale Netze“ aufgefüllt wird. Eine fundamentale Trennung, die sofort den möglichen Nutzen erkennen lässt, unterscheidet zwischen technischer Unterstützung einerseits, was mit Intelligenz nichts zu tun hat, und Entscheidungen in komplexen Situationen andererseits.

Für ersteres gibt es eine Fülle von Beispielen, von sprachlichen Übersetzungen und Spracherkennung bis hin zu Erinnerungsprozeduren für Patienten. Ganz anders sieht es aus, wenn Behandlungsentscheidungen betroffen sind. Hier findet man fast immer Sätze wie „. . . mögliche Entdeckungen durch die Analyse riesiger Daten...“

Hier ist größte Vorsicht angesagt aufgrund der außerordentlich kontraintuitiven Tatsache, dass Daten nicht Wissen sind und mehr Daten keinesfalls mehr Wissen bedeuten.

Wie beurteilen Sie die Erfolge von KI in der Dermatologie?

Die Dermatologie wird oft als Beispiel genannt, genauere Betrachtung lässt jedoch auch hier schnell Zweifel hochkommen. Einmal ist es die typische anekdotische Beweisführung, indem einzelne Projektergebnisse euphorisch dargestellt werden. Niemand weiß jedoch, wie stark auch hier die selektive Publikation von Erfolgen bei gleichzeitiger Ausblendung von weniger eindrucksvollen Ergebnissen eine stark verzerrte Darstellung liefern.

Was wäre aus Ihrer Sicht eine intelligente Herangehensweise an das Thema Digitalisierung?

Es ist höchste Zeit, sich wieder an den Sinn, die Ziele und die Beteiligten der Gesundheitsversorgung und der Medizin zu erinnern.

Hauptakteure sind Patienten, für die durch die Arbeit der Gesundheitsprofessionen optimale Ergebnisse durch Prävention, Diagnose, Therapie und Prognose erreicht werden sollen. Deswegen muss der Patientennutzen wieder oberstes Ziel jeder Entwicklung sein. Das bedeutet gegenwärtig tatsächlich, einige Schritte zurückzugehen.

Die Digitalisierung ist zu einer Ideologie mutiert, die realisiert werden muss. Speicherplatz und Rechnerkraft haben die kritische Betrachtung von Nutzen vs. Risiken und den verbundenen Kosten in der Weiterentwicklung des Gesundheitssystems abgelöst. Das gilt es zurückzuschrauben, indem der Patient wieder in den Mittelpunkt rückt.

Autorin: Andrea Fried, Erstveröffentlichung: „Ärzte Woche“ (Österreich)

Professor Gerd Antes

Aktuelle Position: deutscher Mathematiker und Biometriker.

Werdegang: Antes, Jahrgang 1949, war viele Jahre lang Leiter des Deutschen Cochrane Zentrums in Freiburg, Initiator des Deutschen Registers für klinische Studien und Gründungsmitglied des Netzwerks für Evidenzbasierte Medizin.

Mehr zum Thema

850.000 Euro

Förderung für bayerisches Onkologie-Radiologie-Netzwerk geht weiter

Das könnte Sie auch interessieren
Wie patientenzentriert ist unser Gesundheitssystem?

© Janssen-Cilag GmbH

Video

Wie patientenzentriert ist unser Gesundheitssystem?

Höhen- oder Sturzflug?

© oatawa / stock.adobe.com

Zukunft Gesundheitswesen

Höhen- oder Sturzflug?

Patientenzentrierte Versorgung dank ePA & Co?

© MQ-Illustrations / stock.adobe.com

Digitalisierung

Patientenzentrierte Versorgung dank ePA & Co?

Verschiedene Gesichter

© Robert Kneschke / stock.adobe.com / generated with AI

Seltene Erkrankungen

GestaltMatcher – Per Gesichtsanalyse zur Orphan Disease-Diagnose

Künstliche Intelligenz gilt auch in der Medizin als Schlüsseltechnologie, mit deren Hilfe zum Beispiel onkologische Erkrankungen stärker personalisiert adressiert werden könnten.

© Kanisorn / stock.adobe.com

EFI-Jahresgutachten 2024 übergeben

KI: Harter Wettbewerb auch in der Medizin

Kommentare
Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte und Ärztinnen sowie andere Mitarbeiter der Gesundheitsbranche Zugriff auf mehr Hintergründe, Interviews und Praxis-Tipps.

Haben Sie schon unsere Newsletter abonniert?

Von Diabetologie bis E-Health: Unsere praxisrelevanten Themen-Newsletter.

Das war der Tag: Der tägliche Nachrichtenüberblick mit den neuesten Infos aus Gesundheitspolitik, Medizin, Beruf und Praxis-/Klinikalltag.

Eil-Meldungen: Erhalten Sie die wichtigsten Nachrichten direkt zugestellt!

Newsletter bestellen »

Top-Meldungen

Inkretinmimetika

GLP-1: Wie aus dem kleinen Hormon ein Rockstar wird

Risikoanalyse

Komplikation nach Hernien-Operation: Wer ist gefährdet?

Lesetipps
Mehrkosten für die Entbudgetierung der hausärztlichen Versorgung seien Investition in den Erhalt der Praxen, betont Bundesgesundheitsminister Karl Lauterbach. 

© Michael Kappeler / dpa

Kabinett winkt GVSG durch

Lauterbach macht Hausarztpraxen Mut: „Jede Leistung wird bezahlt“

Brücke zwischen zwei Steilklippen. Auf der Brücke stehen zwei Menschen.

© Usman / stock.adobe.com

Aktuelle Forschung

Antikörper – die Verkuppler der Krebsmedizin

Heiße Nächte können nicht nur nervig sein. Sie gehen auch mit einem höheren Risiko für Schlaganfälle einher, so das Ergebnis einer Studie aus München und Augsburg.

© samuel / stock.adobe.com

Studie mit Daten zu 11.000 Schlaganfällen

Tropische Nächte sind offenbar ein Risikofaktor für Schlaganfälle