Ethik künstlicher Intelligenz
Was bleibt vom Menschen übrig?
Der Deutsche Ethikrat diskutiert, wie Big Data die Medizin verändert – und künftig menschliches Abwägen überflüssig machen könnten. Referent Christoph Kucklick sprach sich klar dafür aus, die „Überlegenheit von Maschinen“ für menschliche Zwecke zu nutzen.
Veröffentlicht:BERLIN. Während Politik und Gesellschaft noch darüber diskutieren, wie mit Möglichkeiten und Risiken von Big Data umzugehen ist, werden die Daten selbst längst genutzt. Das wurde auf der öffentlichen Sitzung des Deutschen Ethikrats am Donnerstag in Berlin einmal mehr deutlich.
„Die erste Uni in den USA hat Fitnesstracker zur Pflicht gemacht und die Daten fließen in die Noten ein – zu 20 Prozent“, berichtete Referent Professor Stefan Selke von der Hochschule Furtwangen. Er sprach von einer starken Deliberalisierung des Gesundheitsmarktes.
Krankenkassen könnten zwar einerseits von den Vitaldaten ihrer Versicherten profitieren. „Gleichzeitig fürchten sie aber, dass sie durch Big Data in Zukunft komplett überflüssig werden“, so Selke.
Die Medizin wandele sich von eminenzbasiert zu evidenzbasiert, sagte Selke mit Blick auf die zahlreichen Internet-Datenbanken der Krankheiten und ihrer Symptome.
„Wir haben es mit hochdifferenziertem Selbstwissen von Laien zu tun, bei dem es sich allerdings um isolierte Daten handelt – ohne systemintegrierte Vergleichbarkeit, ohne Diagnose“, gab Selke zu bedenken.
Er formulierte die These, humanitäre Entkernung sei die Konsequenz: „Gesteigerte Selbstauskunftsfähigkeit über alle Möglichkeiten hinweg führt zur Entwertung der analogen Persönlichkeiten.“
Der Mensch sei permanent dem Zwang der „Lebendbewerbung“ unterworfen und werde von der Gesellschaft nur noch an seiner Wertschöpfungskapazität gemessen. Die rationale Differenzierung führe zu rationaler Diskriminierung – „wir befinden uns zunehmend im Modus der Fehlersuche und des Abgleichmechanismus‘“, warnte Selke.
Noch herrscht großes Misstrauen
Der Ethikrat unter Vorsitz von Christiane Woopen hatte neben Selke auch Christoph Kucklick, Chefredakteur der Zeitschrift GEO, zu einem Streitgespräch geladen, der, anders als der doch eher kritische Selke, die Vorzüge der Symbiose zwischen Mensch und Maschine heraushob.
Die meisten Menschen misstrauten maschinengesteuerten Entscheidungen, so Kucklick. Nur durch Transparenz könnten maschinelle Entscheidungskriterien, zum Beispiel die auf reinen Daten basierte Zu- oder Absage für einen Kredit, ihren Schrecken verlieren.
Er forderte eine Ausweitung des Datenmanagements. Eine Ethik des Digitalen müsse so komplex sein wie das Digitale selbst, sagte der Soziologe.
Er bekräftigte, er könne sich eine ganze Reihe von Fällen vorstellen, in denen automatisierte Prozesse zuverlässiger entscheiden könnten als Menschen, die stets zahlreichen äußeren Einwirkungen unterworfen seien. Warum also die „Überlegenheit von Maschinen“ nicht für menschliche Zwecke nutzen?
„Bei maschinellen Entscheidungen bietet sich uns die große Chance der Überprüfbarkeit“, sagte er. Die besten Ergebnisse würden stets erzielt, wenn Menschen und Maschinen sich gegenseitig ergänzten, sagte Kucklich – und zog das Beispiel Schach heran.
Künstliche Intelligenz entmündigt In der anschließenden Diskussionsrunde gab Ethikratsmitglied Michael Wunder zu bedenken, dass in der Medizin subjektive Faktoren bei Entscheidungen eine große Rolle spielten.
„Bei medizinischen Entscheidungen wird der Patient sozusagen entmündigt“, sagte Wunder mit Blick auf persönliche Abwägungsprozesse, die entfielen, wenn künstliche Intelligenzen auf Daten basierte Entscheidungen träfen.
"Verschärfte Humanisierung"
Auf Nachfrage Christiane Woopens, ob und was vom Mensch in letzter Konsequenz übrig bleibe, sagte Kucklick, er rechne im Gegenteil mit einer „verschärften Humanisierung“: „Wir werden uns auf eine neue Weise als Menschen definieren; Kontraste werden betont.“ Ein neues Korsett für die Welt?
Das Problem einer Ethik des Digitalen bestehe darin, dass die Grundpfeiler der menschlichen Ethik zunächst präzise definiert werden müssten, bevor in einem nächsten Schritt Maschinen entsprechend kodiert werden könnten.
„Vielleicht brauchen wir irgendwann dutzende, wenn nicht gar hunderte Ethikräte, in denen auch Programmierer sitzen“, so Kucklick Selke forderte, man müsse neue Begriffe und ein neues „Korsett unserer Welt“ finden, bevor man die bestehende kulturelle Matrix über Bord werfe.
Der Ethikrat, der bei seiner Sitzung am Donnerstag zum letzten Mal in jetziger Zusammensetzung tagte, arbeitet aktuell an einer Stellungnahme zum Thema Big Data, erklärte die Vorsitzende.
Während Politik und Gesellschaft noch darüber diskutieren, wie mit Möglichkeiten und Risiken von Big Data umzugehen ist, werden die Daten selbst längst genutzt.
Das wurde auf der öffentlichen Sitzung des Deutschen Ethikrats am Donnerstag in Berlin einmal mehr deutlich. „Die erste Uni in den USA hat Fitnesstracker zur Pflicht gemacht und die Daten fließen in die Noten ein – zu 20 Prozent“, berichtete Referent Professor Stefan Selke von der Hochschule Furtwangen.
Er sprach von einer starken Deliberalisierung des Gesundheitsmarktes. Krankenkassen könnten zwar einerseits von den Vitaldaten ihrer Versicherten profitieren. „Gleichzeitig fürchten sie aber, dass sie durch Big Data in Zukunft komplett überflüssig werden“, so Selke.
Rund um die Uhr auf Fehlersuche
„Wir haben es mit hochdifferenziertem Selbstwissen von Laien zu tun, bei dem es sich allerdings um isolierte Daten handelt – ohne systemintegrierte Vergleichbarkeit, ohne Diagnose“, gab Selke zu bedenken.
Er formulierte die These, humanitäre Entkernung sei die Konsequenz: „Gesteigerte Selbstauskunftsfähigkeit über alle Möglichkeiten hinweg führt zur Entwertung der analogen Persönlichkeiten.“ Der Mensch sei permanent dem Zwang der „Lebendbewerbung“ unterworfen und werde von der Gesellschaft nur noch an seiner Wertschöpfungskapazität gemessen.
Die rationale Differenzierung führe zu rationaler Diskriminierung – „wir befinden uns zunehmend im Modus der Fehlersuche und des Abgleichmechanismus‘“, warnte Selke.
Die meisten Menschen misstrauten maschinengesteuerten Entscheidungen, so Kucklick.
Nur durch Transparenz könnten maschinelle Entscheidungskriterien, zum Beispiel die auf reinen Daten basierte Zu- oder Absage für einen Kredit, ihren Schrecken verlieren. Er forderte eine Ausweitung des Datenmanagements.
Eine Ethik des Digitalen müsse so komplex sein wie das Digitale selbst, sagte der Soziologe. Er bekräftigte, er könne sich eine ganze Reihe von Fällen vorstellen, in denen automatisierte Prozesse zuverlässiger entscheiden könnten als Menschen, die stets zahlreichen äußeren Einwirkungen unterworfen seien.
Warum also die „Überlegenheit von Maschinen“ nicht für menschliche Zwecke nutzen? „Bei maschinellen Entscheidungen bietet sich uns die große Chance der Überprüfbarkeit“, sagte er.
Die besten Ergebnisse würden stets erzielt, wenn Menschen und Maschinen sich gegenseitig ergänzten, sagte Kucklich – und zog das Beispiel Schach heran. Künstliche Intelligenz entmündigt.
In der anschließenden Diskussionsrunde gab Ethikratsmitglied Michael Wunder zu bedenken, dass in der Medizin subjektive Faktoren bei Entscheidungen eine große Rolle spielten.
„Bei medizinischen Entscheidungen wird der Patient sozusagen entmündigt“, sagte Wunder mit Blick auf persönliche Abwägungsprozesse, die entfielen, wenn künstliche Intelligenzen auf Daten basierte Entscheidungen träfen.
Auf Nachfrage Christiane Woopens, ob und was vom Mensch in letzter Konsequenz übrig bleibe, sagte Kucklick, er rechne im Gegenteil mit einer „verschärften Humanisierung“: „Wir werden uns auf eine neue Weise als Menschen definieren; Kontraste werden betont.“
Ein neues Korsett für die Welt?
„Vielleicht brauchen wir irgendwann dutzende, wenn nicht gar hunderte Ethikräte, in denen auch Programmierer sitzen“, so Kucklick Selke forderte, man müsse neue Begriffe und ein neues „Korsett unserer Welt“ finden, bevor man die bestehende kulturelle Matrix über Bord werfe.
