Moralische Maschine

Wenn Autos über Leben und Tod entscheiden

Ebenso wie menschliche Fahrer kommen autonome Autos in ein Dilemma, wenn ein Unfall unausweichlich ist. Wen sollen sie dann überfahren? Forscher haben eine Umfrage ausgewertet.

Veröffentlicht: 25.10.2018, 13:03 Uhr
Wenn Autos über Leben und Tod entscheiden

Autonom fahrende Autos werten viele Informationen gleichzeitig aus – und treffen dann Entscheidungen.

© Uli-B / stock.adobe.com

CAMBRIGDE. Auch autonome Fahrzeuge können in ein Entscheidungsdilemma kommen. Wie sollen sie vor einem Unfall lenken, wenn es auf jeden Fall zu einem Schaden kommt? Antworten haben US-Forscher mit einer weltweiten Umfrage gefunden.

Demnach würde eine Mehrheit eher Kinder als Ältere verschonen sowie eher Menschen als Tieren ausweichen. Das Ergebnis weise allerdings größere kulturelle Unterschiede auf, schreiben die Forscher um Iyad Rahwan vom Massachusetts Institute of Technology in Cambridge im Journal „Nature“ (doi: 10.1038/s41586-018-0637-6).

40 Millionen Teilnehmer

Die Internet-Umfrage mit dem Titel „Moral Machine“ sorgte weltweit für Schlagzeilen. Die große Beteiligung machte es den Forschern möglich, fast 40 Millionen Entscheidungen in Dilemma-Situationen zu analysieren. Allerdings war die Befragung nicht repräsentativ; so waren etwa junge Männer überproportional vertreten.

Rahwan und Kollegen begründen ihre Befragung mit der Bedeutung für die Akzeptanz autonomer Fahrzeuge in der Bevölkerung: „Selbst wenn sich die Ethiker einig wären, wie autonome Fahrzeuge moralische Dilemmata lösen sollten, wäre ihre Arbeit nutzlos, wenn die Bürger ihrer Lösung nicht zustimmen würden.“

Neun Situation abgewägt

In einem konkreten Fallbeispiel versagten die Bremsen des Fahrzeugs. Die Befragten mussten sich entscheiden, ob drei ältere Menschen, die bei Rot über die Straße gehen, überfahren werden sollen oder ob der Wagen gegen eine Betonwand gelenkt werden soll. Dies hätte den Tod der Insassen, darunter ein Junge, zur Folge. Insgesamt mussten die Teilnehmer neun Entscheidungen in unterschiedlichen Situationen treffen, darunter: Fahrzeuginsassen oder Fußgänger, Männer oder Frauen, Jüngere oder Ältere, Sportliche oder Unsportliche, Menschen mit höherem oder niedrigerem sozialen Status.

Bei der Auswertung nach Ländern ergaben sich drei große Gruppen: westliches, östliches und südliches Cluster. Die Entscheidungen in vielen asiatischen Ländern (östliches Cluster) weichen von den anderen Gruppen dadurch ab, dass sie nicht die jüngeren Menschen verschonen würden. Stattdessen gilt in diesen Ländern der Respekt vor den älteren Mitgliedern der Gemeinschaft. Das südliche Cluster (Mittel- und Südamerika) unterscheidet sich vom westlichen Cluster (Europa, Nordamerika) unter anderem dadurch, dass die Mittel- und Südamerikaner sehr viel öfter eingreifen würden als auf das Lenken zu verzichten.

Abweichungen von deutschen Ethik-Kommission

Die Ergebnisse der „Moral Machine“ weichen teilweise von den Regeln ab, die die deutsche Ethik-Kommission in ihrem Bericht „Autonomes und vernetztes Fahren“ im Juni 2017 niedergelegt hat. So heißt es in Regel 9: „Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt.“ In derselben Regel steht drei Sätze weiter: „Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern.“ Den Ergebnissen der Studie zufolge hat ein Großteil der Befragten weltweit andere moralische Vorstellungen.

Grundsätzlich finde sie das Ziel der Autoren richtig, eine Debatte über die „ethische Programmierung“ von selbstfahrenden Autos anzustoßen, bevor diese auf den Straßen fahren, kommentiert Silja Vöneky von der Universität Freiburg die Studie. „Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht.“ Dilemmasituationen habe es schon vorher gegeben und mit den Menschenrechten existierten bereits rechtlich bindende ethische Prinzipien.

Armin Grunwald vom Karlsruher Institut für Technologie warnt sogar vor den Schlussfolgerungen der Studie: „Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde.“

Grunwald gehörte der Ethik-Kommission an, die den Bericht „Autonomes und vernetztes Fahren“ verfasst hat. (dpa)

Lesen Sie dazu auch den Kommentar: Tödliche Unfälle mit selbstfahrenden Autos: Gnadenlos gerecht

Mehr zum Thema

Corona

Notbetten statt Song Contest

„Verbeugung vor all jenen, die uns jetzt den Arsch retten“

BAP huldigt Corona-Helden mit einem Lied

„ÄrzteTag“-Podcast

Was die Corona-Pandemie für Krisenregionen bedeutet

Schlagworte
Kommentare

Sie müssen angemeldet sein, um einen Kommentar verfassen zu können.
Die Newsletter der Ärzte Zeitung

Lesen Sie alles wichtige aus den Bereichen Medizin, Gesundheitspolitik und Praxis und Wirtschaft.

NEU als Themen abonnierbar: Frauengesundheit und Kindergesundheit

Newsletter bestellen »

Vorteile des Logins

Über unser kostenloses Login erhalten Ärzte, Medizinstudenten, MFA und weitere Personengruppen viele Vorteile.

Die Anmeldung ist mit wenigen Klicks erledigt.

Jetzt anmelden / registrieren »

Top-Meldungen
Plasmaspende als Therapie bei COVID-19?

Studie mit schwer Erkrankten

Plasmaspende als Therapie bei COVID-19?

Was die Corona-Pandemie für Krisenregionen bedeutet

„ÄrzteTag“-Podcast

Was die Corona-Pandemie für Krisenregionen bedeutet

Diese Website verwendet Cookies. Weitere Informationen zu Cookies und und insbesondere dazu, wie Sie deren Verwendung widersprechen können, finden Sie in unseren Datenschutzhinweisen.  Verstanden