Künstliche Intelligenz

TÜV-Verband fordert gesetzliche Leitplanken

Der TÜV-Verband kritisiert Regelungslücken beim Einsatz Künstlicher Intelligenz und sieht Handlungsbedarf – auch auf medizinischem Gebiet.

Veröffentlicht: 27.01.2020, 17:27 Uhr

Berlin. Der TÜV-Verband (VdTÜV) fordert strengere Regeln zur Prüfung von Anwendungen, die unter Einsatz sogenannter Künstlicher Intelligenz (KI) funktionieren.

Insbesondere „wenn Gefahren für die Gesundheit von Menschen oder deren elementare Grundrechte bestehen, sind klare Leitlinien für die Anbieter, Entwickler und Nutzer von KI-Anwendungen notwendig“, so Michael Fübi, Präsident des VdTÜV, am Montag in Berlin.

Entwicklung in der Medizin gut, aber...

Das betrifft auch medizinische Diagnostik auf Basis von Algorithmen, die in diversen Studien immer wieder ärztliche Expertise auf den Prüfstand stellt – und bei bildgebenden Verfahren häufig eine geringe Fehlerquote aufweisen als ihre menschliche Konkurrenz. „Das sind aber nur Einsatzfälle. Algorithmen bilden nicht das gesamte menschliche Spektrum ab“, zeigt Fübi Grenzen auf.

Patienten scheinen ihm zuzustimmen, wie die heute vom VdTÜV veröffentlichte repräsentative Studie „Sicherheit und Künstliche Intelligenz“ zeigt. Sie sagen mehrheitlich, dass KI Ärzte unterstützen, aber keine Entscheidungen treffen sollte (69 Prozent).

Nach wie vor vertrauen sie ihrem Arzt mehr als einem Algorithmus (79 Prozent). Nur 24 Prozent würden auf die ausschließliche Empfehlung der Algorithmen vertrauen.

Insgesamt bewerteten die Befragten die Weiterentwicklungen Künstlicher Intelligenz in der Medizin positiv (65 Prozent). Anders in der Altenpflege, wo die Befürchtung besteht, KI-Anwendungen könnten menschliche Kontakte ersetzen; hier sind die Befragten für algorithmenbasierte Technik weniger aufgeschlossen (49 Prozent).

Unabhängige Prüfungen gefordert

Fübi fordert, KI-Anwendungen zeitnah in Risikoklassen einzuordnen und in Abhängigkeit von ihrem Risiko zu prüfen. Die Prüfung von KI-Systemen mit hohem oder sehr hohem Risiko sollte von unabhängigen Prüforganisationen vorgenommen werden. Voraussetzung für herstellerunabhängige Prüfungen algorithmischer Systeme ist der Zugang zu den dafür notwendigen sicherheitsrelevanten Daten.

Bis dato fehle Prüforganisationen der Zugang, kritisiert Fübi. Für lernende KI-Systeme seien zudem fortlaufende Prüfungen nötig, periodische Prüfungen seien im digitalen Zeitalter überholt. (mu)

Kommentare

Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Die Newsletter der Ärzte Zeitung

Lesen Sie alles wichtige aus den Bereichen Medizin, Gesundheitspolitik und Praxis und Wirtschaft.

NEU als Themen abonnierbar: Frauengesundheit und Kindergesundheit

Newsletter bestellen »

Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte, Medizinstudenten, MFA und weitere Personengruppen viele Vorteile.

Die Anmeldung ist mit wenigen Klicks erledigt.

Jetzt anmelden / registrieren »

Top-Meldungen
Darum ist networking für junge Ärzte wichtig

„Ärztetag“-Podcast vom DKK

Darum ist networking für junge Ärzte wichtig

Karneval besser nicht nächtelang durchfeiern

Schlafmediziner

Karneval besser nicht nächtelang durchfeiern

Diese Website verwendet Cookies. Weitere Informationen zu Cookies und und insbesondere dazu, wie Sie deren Verwendung widersprechen können, finden Sie in unseren Datenschutzhinweisen.  Verstanden