Künstliche Intelligenz

EU: Einigung auf strengere Regeln für den Einsatz von KI

Die Europäische Union (EU) hat sich kurz vor dem Wochenende auf Regeln für die Nutzung Künstlicher Intelligenz (KI) verständigt. Das Europaparlament und die EU-Staaten stellten heraus: Es sind weltweit die ersten Regeln für KI.

Veröffentlicht:
KI soll in der Medizin etwa bei der Diagnosestellung unterstützen.

KI soll in der Medizin etwa bei der Diagnosestellung unterstützen.

© woravut / stock.adobe.com

Brüssel. Für den Einsatz von Künstlicher Intelligenz (KI) sollen in der EU künftig strengere Regeln gelten. Unterhändler von Europaparlament und EU-Staaten verständigten sich am Freitagabend in Brüssel nach langen Verhandlungen auf entsprechende Regeln. Nach Angaben des EU-Parlaments handelt es sich um das weltweit erste KI-Gesetz.

Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht. Sie werden schon jetzt in vielen Bereichen eingesetzt. In der Medizin etwa sollen solche Programme Aufnahmen von Computertomografen schneller und mit einer höheren Genauigkeit als Menschen auswerten können. Auch selbstfahrende Autos versuchen so, das Verhalten anderer Verkehrsteilnehmer vorherzusagen. Und Chatbots arbeiten ebenfalls mit KI.

Die EU-Kommission hatte das Gesetz im April 2021 vorgeschlagen. Demnach sollen KI-Systeme in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein. Die Hoffnung ist, dass die Regeln weltweit Nachahmer finden. Als besonders riskant werden demnach KI eingestuft, die ein erhebliches Schadenspotenzial etwa für Gesundheit, Demokratie, Umwelt oder Sicherheit haben.

Wie stark dürfen Basismodelle reguliert werden?

Bestimmte Anwendungen werden komplett verboten, etwa biometrische Kategorisierungssysteme, die sensible Merkmale wie zum Beispiel die sexuelle Orientierung oder religiöse Überzeugungen verwenden. Auch das ungezielte Auslesen von Bildern aus dem Internet oder aus Überwachungsaufnahmen für Gesichtserkennungsdatenbanken soll nicht erlaubt sein. Allerdings wird es Ausnahmen für biometrische Identifizierungen im öffentlichen Raum in Echtzeit geben, etwa bei der Gefahr eines Terroranschlags oder bei der gezielten Suche von Opfern von Menschenhandel. Um diesen Punkt wurde intensiv gerungen, das EU-Parlament wollte eigentlich ein komplettes Verbot.

Ein weiterer Streitpunkt war die Regulierung von sogenannten Basismodellen. Das sind sehr leistungsfähige KI-Modelle, die mit einem breiten Satz an Daten trainiert wurden. Sie können die Grundlage für viele andere Anwendungen sein. Dazu zählt etwa GPT. Deutschland, Frankreich und Italien hatten zuvor gefordert, dass nur konkrete Anwendungen von KI reguliert werden sollten, nicht aber die Basis-Technologie an sich. Nun einigten sich die Unterhändler auf bestimmte Transparenzpflichten für diese Modelle.

Das Europaparlament und die Staaten müssen dem nun vereinbarten Vorhaben noch zustimmen, das gilt aber als Formsache.

Bitkom: Politischer Schaufenster-Erfolg

Der Technikbranchenverband Bitkom sprach von einem „politischen Schaufenster-Erfolg zu Lasten von Wirtschaft und Gesellschaft“. Der erzielte Kompromiss greife tief in die Technologie ein. „Die EU bindet damit den Unternehmen einen regulatorischen Klotz ans Bein. Das Risiko ist groß, dass europäische Unternehmen durch nicht praxistaugliche Vorhaben der rasanten technologischen Entwicklung künftig nicht folgen können“, sagte Bitkom-Hauptgeschäftsführer Bernhard Rohleder.

Die deutsche Verbraucherschutzministerin Steffi Lemke (Grüne) sieht in der KI-Verordnung hingegen einen Schutz für Verbraucher vor den Risiken der neuen Technologie. „In den Verhandlungen haben wir uns besonders dafür eingesetzt, dass KI-Systeme transparent, nachvollziehbar und überprüfbar gestaltet werden. So müssen nun künftig Unternehmen, die den Einsatz von KI-Technologien anbieten, Informationen über die Funktionsweise ihrer Systeme bereitstellen und KI-gestützte Entscheidungen erläutern“, berichtete Lemke am Samstag. Bei Verstößen könnten Verbraucherverbände mit Verbandsklagen gerichtlich dagegen vorgehen. (dpa)

Ihr Newsletter zum Thema
Mehr zum Thema

Fachsymposium Onkologie

Medizinforschungsgesetz – Turbo für den Standort Deutschland?

Kooperation | In Kooperation mit: Pfizer Pharma GmbH und MSD Sharp & Dohme GmbH
Das könnte Sie auch interessieren
Wie patientenzentriert ist unser Gesundheitssystem?

© Janssen-Cilag GmbH

Video

Wie patientenzentriert ist unser Gesundheitssystem?

Kooperation | In Kooperation mit: Janssen-Cilag GmbH
Höhen- oder Sturzflug?

© oatawa / stock.adobe.com

Zukunft Gesundheitswesen

Höhen- oder Sturzflug?

Kooperation | In Kooperation mit: Janssen-Cilag GmbH
Patientenzentrierte Versorgung dank ePA & Co?

© MQ-Illustrations / stock.adobe.com

Digitalisierung

Patientenzentrierte Versorgung dank ePA & Co?

Kooperation | In Kooperation mit: Janssen-Cilag GmbH
Innovationsforum für privatärztliche Medizin

© Tag der privatmedizin

Tag der Privatmedizin 2024

Innovationsforum für privatärztliche Medizin

Kooperation | In Kooperation mit: Tag der Privatmedizin
Kommentare
Carl Billmann, Leiter der Stabsstelle IT, Marketing & Kommunikation bei BillmaMED, Medizinstudent mit dem Berufsziel Dermatologe.

© Doctolib

Interview

„Am Empfang haben wir Stress rausgenommen“

Sonderbericht | Mit freundlicher Unterstützung von: Doctolib GmbH
Die Patientin tippt ihre Nachricht ins Smartphone, das Praxisteam antwortet direkt über
den Desktop. So sind Vereinbarungen über ein E-Rezept oder eine Befundmitteilung vom Facharzt schnell übermittelt.

© [M] Springer Medizin Verlag | Foto: A_B_C / stock.adobe .com

Digitale Patientenkommunikation

„Das Potenzial für die Zeitersparnis ist riesig“

Sonderbericht | Mit freundlicher Unterstützung von: Doctolib GmbH
KI-Einsatz mit Robotern im Krankenhaus oder in der ambulanten Pflege? In Deutschland noch schwer vorstellbar. Aber vielleicht ist das dieZukunft. Ein Feld auch für die Geldanlage.

© sirisakboakaew / stock.adobe.com

Interview zum Thema Geldanlage

KI für Anleger: „Ich sollte verstehen, in was ich investiere“

Sonderbericht | Mit freundlicher Unterstützung von: Deutscher Apotheker- und Ärztebank
Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte und Ärztinnen sowie andere Mitarbeiter der Gesundheitsbranche Zugriff auf mehr Hintergründe, Interviews und Praxis-Tipps.

Haben Sie schon unsere Newsletter abonniert?

Von Diabetologie bis E-Health: Unsere praxisrelevanten Themen-Newsletter.

Das war der Tag: Der tägliche Nachrichtenüberblick mit den neuesten Infos aus Gesundheitspolitik, Medizin, Beruf und Praxis-/Klinikalltag.

Eil-Meldungen: Erhalten Sie die wichtigsten Nachrichten direkt zugestellt!

Newsletter bestellen »

Top-Meldungen

Kasuistik

Dyspnoe und Beinödeme – Ursache war eine Fistel

KHK-Verdacht

Erst Herz-CT oder gleich Herzkatheter? Wohl auch eine Frage des Alters

Lesetipps
Die Autorinnen und Autoren resümieren, dass eine Anamneseerhebung und eine angemessene klinische Untersuchung bei der Überweisung von Patienten zur MRT-Bildgebung nach wie vor eine wichtige Rolle spielen.

© Maxim P / stock.adobe.com

Ausschlusskriterien gesucht

Akuter Schwindel: Wann lohnt sich eine MRT?

RTW im Einsatz

© Jens Büttner/dpa/picture alliance

Die 112 in Nöten

Bündnis: Rettungsdienstreform muss rasch kommen