Big Data und Künstliche Intelligenz

Warnung vor unhaltbaren Heilsversprechen

Viele sehen in Big Data und Künstlicher Intelligenz die Zukunft der Medizin. Doch es gibt auch warnende Stimmen, wie auf einem Kolloquium in Wien deutlich wurde.

Von Andrea Fried Veröffentlicht: 02.01.2020, 14:32 Uhr
Warnung vor unhaltbaren Heilsversprechen

OP der Zukunft? Wohl noch nicht in diesem Jahrhundert, meinen KI-Experten.

© pgottschalk / stock.adobe.com

Wien. Der deutsche Mathematiker und Methodenwissenschaftler Gerd Antes warnt bei der Bewertung von Künstlicher Intelligenz und Big Data in der Medizin vor einem unreflektierten Hype und unhaltbaren Heilsversprechungen.

„Wir werden täglich mit Schlagworten wie Digital Health, künstliche Intelligenz und personalisierte Medizin überschwemmt. Die zentrale Botschaft lautet: Alles wird besser. In diesem Hype werden jedoch alle grundlegenden Kriterien der Wissenschaft ignoriert“, betonte Antes bei einem Colloquium der Gesundheit Österreich in Wien.

Der Wissenschaftler war viele Jahre Leiter des Deutschen Cochrane Zentrums in Freiburg und gilt als Wegbereiter der evidenzbasierten Medizin im deutschsprachigen Raum.

Aktuelle Euphorie

Darauf basiert auch seine kritische Haltung beim Thema Digitalisierung. „Jede neue Technologie muss auf ihren Nutzen, Schaden und ihre Kosten hin untersucht werden“, sagte Antes in Wien. Dies werde allerdings in der aktuellen Euphorie gerne ignoriert.

Besonders die großen Erwartungen an „Big Data“ sind Antes ein Dorn im Auge: „Dafür gibt es nicht einmal eine Definition. Die Menschen wissen nicht, wovon sie sprechen“. Aus wissenschaftlicher Sicht sei für ihn klar: Mehr Daten bedeuteten nicht automatisch mehr Wissen. Die Idee basiere auf der falschen Annahme, dass man riesige Datenmengen völlig unstrukturiert und unsystematisch durchwühlen kann und dabei auf sinnvolle Zusammenhänge stößt.

Warnung vor unhaltbaren Heilsversprechen

Professor Gerd Antes ist ein deutscher Mathematiker und Biometriker.

© privat

„Das ist wissenschaftlicher Unfug und kann nicht funktionieren. Big Data ist ein Hype, der uns geradewegs in eine Falle führt“, argumentierte Antes. Die Grundlage wissenschaftlichen Arbeitens sei es, mit Hilfe von Theorie und Daten Hypothesen zu generieren, die empirisch durch Studien bestätigt oder widerlegt werden müssen.

„Sucht man in riesigen Datenmengen einfach nach Korrelationen, dann kommt da unglaublich viel Schwachsinn heraus. Das ist wie das Suchen nach einer Nadel im Heuhaufen. Durch Big Data macht man jedoch den Heuhaufen nur noch größer“, sagte der Experte für evidenzbasierte Medizin.

„Staatsräson und Ideologie“

Auch die Heilsversprechungen unter dem Schlagwort „Künstlichen Intelligenz“ kritisierte Antes beim Kolloquium: „Visionäre beschreiben eine Zukunft, in der Maschinen den Menschen abhängen, die er nicht mehr versteht. Alles soll digitalisiert werden, Sinn und Nutzen spielen dabei keine Rolle“. Die Digitalisierung sei zur Staatsräson und Ideologie geworden.

„Auch die Ärzteschaft scheint sich davon anstecken oder sogar einschüchtern zu lassen“, warnte der Wissenschaftler. Er forderte mehr Realitätsbezug in der Diskussion und eine breit angelegte, wissenschaftlich hochwertige Technikfolgenabschätzung.

Denn auch bei digitalen Anwendungen seien Nutzen und Risiken zu prüfen. Und eines sei dabei ganz besonders wichtig: „Selbst bei größter Technikgläubigkeit darf die Auswirkungen auf die Menschlichkeit in der Medizin nicht übersehen werden.“

Ärzte Zeitung: Professor Antes, werden wir 2030 noch zum Arzt gehen?

Gerd Antes: Betrachtet man den gegenwärtigen Hype um Personalisierte oder Präzisionsmedizin, Künstliche Intelligenz (KI), Big Data und weitere Verbündete, so bleibt eigentlich keine Alternative, als ein arztbesuchsfreies 2030 zu erwarten. Man muss allerdings nicht sehr genau hinsehen, um die Leere vieler dieser Versprechungen zu erkennen.

Es werden so viele fundamentale Grundlagen der Wissensentstehung verletzt, dass es nur eine Frage der Zeit ist, wann diese offensichtlich und nachgewiesen werden. In technischen Zusammenhängen mag das als Sachschäden und Verschwendung akzeptiert werden, in der Medizin bedeutet es Krankheit und Tod.

Die Medizin ist zu komplex und voller nichtvorhersagbarer, unerwarteter Entwicklungen, um sie automatisierten Verfahren überlassen zu können. Deswegen für 2030: Wem seine Gesundheit lieb ist, sollte Arztbesuche auf jeden Fall nicht aufgeben, natürlich in technisch bestens ausgestatteten Praxen und Kliniken.

Was genau wird KI in der Medizin dann leisten können?

Dieses Themengebiet ist außerordentlich verwirrend, vor allem durch die fehlenden Definitionen der einzelnen Begrifflichkeiten. Gerade bei der sogenannten KI ist das besonders auffällig, da diese zwei Buchstaben für alles die Lösung zu sein scheinen.

Erstaunlich dabei ist, dass statt einer nach Möglichkeit detaillierten Beschreibung der methodischen Komponenten das Schlagwort KI ausreicht und bestenfalls durch weitere Schlagworte wie „Deep Learning“ oder „Neuronale Netze“ aufgefüllt wird. Eine fundamentale Trennung, die sofort den möglichen Nutzen erkennen lässt, unterscheidet zwischen technischer Unterstützung einerseits, was mit Intelligenz nichts zu tun hat, und Entscheidungen in komplexen Situationen andererseits.

Für ersteres gibt es eine Fülle von Beispielen, von sprachlichen Übersetzungen und Spracherkennung bis hin zu Erinnerungsprozeduren für Patienten. Ganz anders sieht es aus, wenn Behandlungsentscheidungen betroffen sind. Hier findet man fast immer Sätze wie „. . . mögliche Entdeckungen durch die Analyse riesiger Daten...“

Hier ist größte Vorsicht angesagt aufgrund der außerordentlich kontraintuitiven Tatsache, dass Daten nicht Wissen sind und mehr Daten keinesfalls mehr Wissen bedeuten.

Wie beurteilen Sie die Erfolge von KI in der Dermatologie?

Die Dermatologie wird oft als Beispiel genannt, genauere Betrachtung lässt jedoch auch hier schnell Zweifel hochkommen. Einmal ist es die typische anekdotische Beweisführung, indem einzelne Projektergebnisse euphorisch dargestellt werden. Niemand weiß jedoch, wie stark auch hier die selektive Publikation von Erfolgen bei gleichzeitiger Ausblendung von weniger eindrucksvollen Ergebnissen eine stark verzerrte Darstellung liefern.

Was wäre aus Ihrer Sicht eine intelligente Herangehensweise an das Thema Digitalisierung?

Es ist höchste Zeit, sich wieder an den Sinn, die Ziele und die Beteiligten der Gesundheitsversorgung und der Medizin zu erinnern.

Hauptakteure sind Patienten, für die durch die Arbeit der Gesundheitsprofessionen optimale Ergebnisse durch Prävention, Diagnose, Therapie und Prognose erreicht werden sollen. Deswegen muss der Patientennutzen wieder oberstes Ziel jeder Entwicklung sein. Das bedeutet gegenwärtig tatsächlich, einige Schritte zurückzugehen.

Die Digitalisierung ist zu einer Ideologie mutiert, die realisiert werden muss. Speicherplatz und Rechnerkraft haben die kritische Betrachtung von Nutzen vs. Risiken und den verbundenen Kosten in der Weiterentwicklung des Gesundheitssystems abgelöst. Das gilt es zurückzuschrauben, indem der Patient wieder in den Mittelpunkt rückt.

Autorin: Andrea Fried, Erstveröffentlichung: „Ärzte Woche“ (Österreich)

Professor Gerd Antes

Aktuelle Position: deutscher Mathematiker und Biometriker.

Werdegang: Antes, Jahrgang 1949, war viele Jahre lang Leiter des Deutschen Cochrane Zentrums in Freiburg, Initiator des Deutschen Registers für klinische Studien und Gründungsmitglied des Netzwerks für Evidenzbasierte Medizin.

Mehr zum Thema

Künstliche Intelligenz versus Ärzte

Wer Brustkrebs besser diagnostiziert

Akute Myeloische Leukämie

Künstliche Intelligenz erkennt Blutkrebs

Kommentare

Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Die Newsletter der Ärzte Zeitung

Lesen Sie alles wichtige aus den Bereichen Medizin, Gesundheitspolitik und Praxis und Wirtschaft.

NEU als Themen abonnierbar: Frauengesundheit und Kindergesundheit

Newsletter bestellen »

Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte, Medizinstudenten, MFA und weitere Personengruppen viele Vorteile.

Die Anmeldung ist mit wenigen Klicks erledigt.

Jetzt anmelden / registrieren »

Top-Meldungen
Diese Website verwendet Cookies. Weitere Informationen zu Cookies und und insbesondere dazu, wie Sie deren Verwendung widersprechen können, finden Sie in unseren Datenschutzhinweisen.  Verstanden