Rechtsrahmen

EU-Kommission präsentiert Leitplanken für Künstliche Intelligenz

Die EU-Kommission hat den weltweit ersten Rechtsrahmen für Künstliche Intelligenz vorgestellt. Im Fokus steht die vertrauenswürdige, schwache KI, wie sie auch in der Medizin Anwendung findet.

Von Matthias WallenfelsMatthias Wallenfels Veröffentlicht:
Künstliche Intelligenz – Dein Freund und Helfer: Für die EU-Kommission steht bei den auf dem alten Kontinent hergestellten KI-Lösungen der Vertrauensaspekt im Mittelpunkt ihres KI-Rechtsrahmens.

Künstliche Intelligenz – Dein Freund und Helfer: Für die EU-Kommission steht bei den auf dem alten Kontinent hergestellten KI-Lösungen der Vertrauensaspekt im Mittelpunkt ihres KI-Rechtsrahmens.

© Alexander Limbach / stock.adobe.com

Brüssel. Europa folgt Deutschland in puncto Künstlicher Intelligenz (KI). Der alte Kontinent soll das globale Zentrum für vertrauenswürdige KI-Lösungen wie zum Beispiel in der Präzisionsonkologie werden.

Dazu hat die Europäische Kommission am Mittwoch den nach eigenen Angaben weltweit ersten Rechtsrahmen für KI vorgelegt – und zieht darin die regulatorischen Daumenschrauben im Vergleich zu China oder auch den USA gehörig an.

Wie bereits im Vorfeld öfter bekundet, geht es nicht a priori um das technisch Machbare, sondern auch um das nach europäischem Verständnis ethisch Vertretbare. „Bei Künstlicher Intelligenz ist Vertrauen ein Muss und kein Beiwerk. Mit diesen wegweisenden Vorschriften steht die EU an vorderster Front bei der Entwicklung neuer weltweiter Normen, die sicherstellen sollen, dass KI vertrauenswürdig ist“, kommentierte Exekutiv-Vizepräsidentin Margrethe Vestager dementsprechend bei der Vorstellung der europäischen KI-Leitplanken in Brüssel.

Investitionen in KI sollen beschleunigt werden

Folgerichtig werden – ebenfalls im Gegensatz zu China und den USA – starke KI-Systeme, die die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen bedrohen, verboten. Für schwache KI-Systeme mit hohem Risiko sollen strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden.

Außerdem hat die EU-Kommission ihr europäisches Konzept zu Exzellenz in KI aktualisiert, mit dem Investitionen in KI beschleunigt werden sollen und das die neuen Herausforderungen, die sich unter anderem aus der Coronavirus-Pandemie ergeben, berücksichtigt.

Ergänzt wird dieses Konzept durch neue Vorschriften für Maschinen zur Anpassung der Sicherheitsvorschriften, um so das Vertrauen der Nutzer in die neue, vielseitige Produktgeneration zu stärken.

Abwägen zwischen Chancen und Risiken

Der für den Binnenmarkt zuständige EU-Kommissar Thierry Breton referenziert explizit auf den medizinisch-pflegerischen Kontext, in dem Experten jede Menge Chancen für KI-Lösungen sehen – bisher verläuft deren Einsatz im Versorgungsalltag unter anderem wegen haftungsrechtlicher Unklarheiten und des bisher niedrigen Akzeptanzniveaus noch eher zögerlich.

„Mit der heutigen Rechenleistung hat KI nun ganz neue Fähigkeiten. Dies bietet ein riesiges Potenzial in so verschiedenen Bereichen wie Gesundheit, Verkehr, Energie, Landwirtschaft, Tourismus oder Cybersicherheit. Die heutigen Vorschläge sollen die Position Europas als globales Zentrum für Exzellenz in der KI vom Labor bis zum Markt stärken. Außerdem sollen sie dafür sorgen, dass die KI in Europa unsere Werte und Regeln wahrt“, so Breton.

Die neuen Vorschriften sollen laut Kommission in eine KI-Verordnung münden, was – wie bei der novellierten Medizinprodukteverordnung – zur Folge hat, dass der Rechtsrahmen in allen Mitgliedstaaten direkt und in gleicher Weise Anwendung finden wird. Die Länder haben also, anders als bei einer Richtlinie bei der Auslegung keinen Gestaltungsspielraum haben.

Risikobasierter Ansatz

Die KI-Spielregeln folgen einem risikobasierten Ansatz:

  • Unannehmbares Risiko: Hierzu zählen KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten. Dazu gehören KI-Systeme oder -Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen, wie beispielsweise Spielzeug mit Sprachassistent, das Minderjährige zu gefährlichem Verhalten ermuntert, sowie Systeme, die den Behörden eine Bewertung des sozialen Verhaltens (Social Scoring) ermöglichen. Letztere setzt China ein.
  • Hohes Risiko: Darunter sind KI-Systeme zu verstehen, bei denen ein hohes Risiko besteht. Dieses wird zum Beispiel gesehen, wenn KI-Technik in Bereichen wie kritischen Infrastrukturen, zu denen die Gesundheit zählt, eingesetzt wird. Auch Sicherheitskomponenten von Produkten sind hier tangiert – hier sind KI-Anwendungen für die roboterassistierte Chirurgie zu verorten – oder auch Dienstleistungen wie die Bewertung der Kreditwürdigkeit.
Mehr zum Thema

Geldanlage

KI und Gesundheit – gute Mischung für Anleger

„EvidenzUpdate“-Podcast

„Digitalisierung – nichts für Nerds, sondern ärztlicher Auftrag“

„EvidenzUpdate“-Podcast

Digitalisierung? „Muss für Ärzte einen Mehrwert bieten!“

Das könnte Sie auch interessieren
Digitalisierung? „Muss für Ärzte einen Mehrwert bieten!“

„EvidenzUpdate“-Podcast

Digitalisierung? „Muss für Ärzte einen Mehrwert bieten!“

Digitalisierung und Datenschutz pandemiekonform: SVR-Vorsitzender Professor Ferdinand Gerlach (li.) am 24. März in Berlin bei der Vorstellung des Ratsgutachtens und der Bundesdatenschutzbeauftragte Professor Ulrich Kelber (re.) einen Tag später bei der Vorlage seines Tätigkeitsberichts.

„ÄrzteTag“-Podcast

„Wir verlangen Digitalisierung mit Gehirnschmalz!“ (Streitgespräch Teil 1)

Thorsten Kaatze, kaufmännischer Direktor am Uniklinikum Essen

„ÄrzteTag“-Podcast

Ein „Kochrezept“ für die Digitalisierung einer Uniklinik

Kommentare

Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Die Newsletter der Ärzte Zeitung

Lesen Sie alles wichtige aus den Bereichen Medizin, Gesundheitspolitik und Praxis und Wirtschaft.

Nachmittags: das schnelle Telegramm. Am Morgen: Ihr individuell zusammengestellter Themenmix.

Newsletter bestellen »

Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte, Medizinstudenten, MFA und weitere Personengruppen viele Vorteile.

Die Anmeldung ist mit wenigen Klicks erledigt.

Jetzt anmelden / registrieren »

Top-Meldungen