Sollte ein selbstfahrendes Fahrzeug den Fußgänger oder den Beifahrer töten?

• Forscher entwerfen ein Experiment, um eine menschliche Perspektive auf moralische Entscheidungen zu erheben, die von künstlicher Intelligenz getroffen werden.
• Sie analysierten Millionen menschlicher Reaktionen und zeigten, wie sehr sich die Ethik zwischen den Kulturen unterscheidet.

Wir treten in eine Ära ein, in der Maschinen nicht nur die Aufgabe haben, Schäden zu minimieren, sondern auch die Schäden zu verteilen, die sie nicht beseitigen können. Die Verteilung des Schadens (sowie des Wohlbefindens, das die Maschine erzeugt) führt normalerweise zu Kompromissen, deren Auflösung in den moralischen Bereich fällt.

Stellen Sie sich eine Situation vor, in der ein autonomes Fahrzeug kurz vor dem Absturz steht und keinen Weg einschätzen kann, der alle retten würde. In solchen Fällen müssen die Fahrzeuge entscheiden, wie das Schadensrisiko gerecht auf verschiedene Verkehrsteilnehmer verteilt wird. Diese moralischen Dilemmata können durch kein Gesetz der Robotik oder menschliche ethische Prinzipien gelöst werden.

Im Jahr 2014 entwarfen MIT-Forscher ein Experiment namens Moral Machine, um eine menschliche Perspektive auf moralische Entscheidungen zu sammeln, die von KI-ausgerüsteten Maschinen wie selbstfahrenden Autos getroffen werden. Bisher hat das Experiment mehr als 40 Millionen Antworten aus der ganzen Welt erhalten. Dies bietet wertvolle Einblicke in die kollektiven ethischen Prioritäten verschiedener Kulturen.

Die Moral Machine testet 13 verschiedene Szenarien, in denen die Leute entscheiden, welches selbstfahrende Fahrzeug Priorität haben soll:

• Mehr Leben für weniger
• Männer über Frauen
• Menschen über Haustiere
• jung über alt
• höherer sozialer Status als niedriger
• fit über ungesund
• Gesetzesanhänger über Gesetzesbrecher

Die Forscher analysierten alle Antworten und zeigten, wie sich die menschliche Ethik je nach geografischer Lage, Wirtschaft und Kultur unterscheidet.

Sie fanden heraus, dass verschiedene Länder unterschiedliche Präferenzen haben. Menschen aus kollektivistischen Kulturen wie Japan und China verschonen beispielsweise eher die Alten als die Jungen. Länder mit individualistischeren Kulturen hingegen werden die alten weniger wahrscheinlich verschonen.

Referenz:Natur | DOI:10.1038/s41586-018-0637-6 | Moralmaschine 

Ebenso neigen Menschen aus individualistischen Kulturen wie den USA und Großbritannien dazu, mehr Leben zu retten, wenn sie alle anderen Möglichkeiten haben. Menschen aus Entwicklungsländern mit schwächeren Institutionen sind toleranter gegenüber Fußgängern, die einen Jaywalk machen, gegenüber Fußgängern, die legal überqueren.

Die Präferenz, Charaktere mit höherem Status zu sparen, ist für östliche Länder (Japan, Taiwan, Saudi-Arabien, Indonesien) viel weniger ausgeprägt und für südliche Länder (Mittel- und Südamerika, Frankreich) viel höher.

Westliche und östliche Länder bevorzugen im Vergleich zu südlichen Ländern eine viel höhere Präferenz für die Schonung von Menschen gegenüber Haustieren.

Einschränkungen

Trotz der großen Stichprobengröße weist die Studie zahlreiche Einschränkungen auf. Zum Beispiel haben die Forscher die Unsicherheit über das Schicksal der Charaktere nicht berücksichtigt. Alle Charaktere wurden mit 100-prozentiger Sicherheit als Kinder und Erwachsene erkannt und ihre Lebens- und Todesfolgen wurden mit 100-prozentiger Sicherheit geschätzt.

Sie haben auch den hypothetischen Beziehungsfaktor (z. B. Ehepartner und Verwandte) zwischen Befragten und Charakteren nicht eingeführt. Obwohl diese Annahmen ziemlich unrealistisch waren, waren sie notwendig, um das Experiment handhabbar zu halten.

Lesen Sie: Selbstfahrende Fahrzeuge können dunkelhäutige Fußgänger nur schwer erkennen

Wir erzielen möglicherweise keine allgemeine Einigung, aber diese Ergebnisse können von Technologieunternehmen und Autoherstellern verwendet werden, um besser zu verstehen, wie die Öffentlichkeit auf Ethiken unterschiedlicher Design- und Politikentscheidungen reagieren würde.