Sollen autonome Fahrzeuge bei einem Unfall eher den Tod eines alten Menschen in Kauf nehmen oder doch den eines Kindes? Wie Menschen diese moralische Frage beantworten würden, beleuchtet eine neue Studie.
Anzeige
Können Menschen sich einig werden, wie Roboter-Autos in ethisch schwierigen Unfallsituationen entscheiden sollen? Das versucht zumindest das Massachusetts Institute of Technology (MIT) herauszufinden. Die Studie istin dem Fachmagazin "Nature" erschienen.
Das Online-Spiel "Moral Machine" konfrontiert die Probanden mit unterschiedlichen Situationen und variierenden Verkehrsteilnehmern. Dann müssen sie sich für den in ihren Augen vertretbaren Unfallschaden entscheiden: Überfahre ich den Rentner, der bei rot die Straße überquert, oder fahre ich gegen die Betonwand, die die Insassen meines Autos, inklusive Kindern gefährdet?
Die Ergebnissen zeigen: Die Mehrheit der Befragten würde lieber Kinder verschonen als ältere Menschen. Und die meisten würden - vor die Wahl gestellt - eher Tiere überfahren als Menschen. Allerdings zeigten sich bei genauerer Betrachtung größere kulturelle Unterschiede zwischen Probanden in verschiedenen Weltregionen.
Die Forscher hatten sie in drei Gruppen differenziert: westliches, östliches und südliches Cluster. So entschieden sich Befragte in asiatischen Ländern (östliches Cluster) eher dafür - aus Respekt - die älteren Verkehrsteilnehmer zu verschonen.
Über 40 Millionen Entscheidungen aus der "Moral Machine"- Umfrage hatten die Wissenschaftler analysiert. Weil junge Männer aber unter den zwei Millionen Umfrageteilnehmern überrepräsentiert waren, ist das Ergebnis allerdings nicht repräsentativ.
Durch die Ergebnisse versuchen die Forscher des MIT herauszufinden, nach welchen ethischen Vorstellungen selbstfahrende Autos in Zukunft programmiert werden könnten. Dies widerspricht teilweise den Regeln, welche die Ethikkommission für Automatisiertes und Vernetztes Fahren im Juni 2017 vorgeschlagen hatte.
Unter anderem sprach sich die deutsche Kommission gegen jegliche Diskriminierung aus: "Bei unausweichlichen Unfallsituationen ist jede Qualifizierung nach persönlichen Merkmalen (Alter, Geschlecht, körperliche oder geistige Konstitution) strikt untersagt."
Die Jura Professorin Silja Vöneky findet das Ziel der MIT-Autoren grundsätzlich richtig - stößt es doch eine Debatte über die "ethische Programmierung" von autonomen Fahrzeugen an: "Wir sollten aber nicht glauben, dass wir alle Normen und Prinzipien neu erfinden oder ändern müssen, nur weil es um eine neue Technik geht," so Vöneky gegenüber dem Science Media Center Deutschland. Sie lehrt Völkerrecht, Rechtsethik und Rechtsvergleichung der Universität Freiburg.
Auch Armin Grunwald vom Karlsruhe Institut für Technologie (KIT) und Angehöriger der Ethikkommission für Automatisiertes und Vernetztes Fahren, zeigt sich skeptisch und warnt sogar vor den Schlussfolgerungen der Studie: "Weder aus Spielen noch aus Umfragen kann etwas über die ethische Zulässigkeit von Normen gelernt werden. Ansonsten könnte nach jedem schweren Verbrechen eine Umfrage gemacht werden, die mit ziemlicher Sicherheit für die Einführung der Todesstrafe ausgehen würde." Und das, obwohl diese in den meisten Ländern abgeschafft ist.
sw/hf (dpa)
Das Auto denkt, das Auto lenkt
Autos könnten schon heute "autonom" fahren, also ohne einen Fahrer. Eine Einführung der Auto-Roboter ist aber umstritten: Was, wenn es zum Unfall kommt? Und: Wollen die Menschen, dass ein Auto für sie denkt und lenkt?
Bild: media.daimler.com
Reise vom Silicon Valley nach Las Vegas
Dieser Audi A7 ist voller Sensoren. Anfang 2015 fuhr das Auto selbständig den kompletten Weg vom Silicon Valley zur Technikmesse CES in Lag Vegas. 900 Kilometer lang war der Road-Trip über den Highway. Der Steuermann war nur für den Notfall an Bord - eingreifen musste er bei dieser Fahrt nicht.
Bild: picture-alliance/dpa/J. Fets/Audi AG
Richtig gemütlich!
Dieser Prototyp von Mercedes Benz trägt den Namen F015 und zeigt in allen Konequenzen, wie ein autonomes Auto aussehen könnte: Ein Fahrersitz ist überflüssig. Stattdessen können sich alle Insassen während der Fahrt anschauen und gemütlich unterhalten. Auch dieses Forschungsfahrzeug wurde in Silicon Valley entwickelt. Seine Maximalgeschwindigkeit liegt zurzeit bei 200 km/h.
Bild: media.daimler.com
Nichts für ungeduldige Typen
Eigentlich sind autonome Fahrzeuge sehr sicher. Sie sind so programmiert, dass sie im Zweifelsfall eher die Fahrt verlangsamen. Sie halten definitiv den vorgegebenen Sicherheitsabstand ein und gefährden andere Verkehrsteilnehmer nicht durch aggressive Fahrmanöver, wie etwa dieser Raser.
Bild: imago/Jochen Tack
Gemütlich immer hinterher
Diese beiden autonomen Wagen der Universität der Bundeswehr in München machen es vor: Ganz entspannt fährt ein Wagen vorneweg, der andere folgt ganz treu, immer hinterher. Sie finden ihren Weg sogar in unbefestigtem Gelände auf Wegen, die sie vorher nicht kannten. Das zeigt eine Übung auf dem ELROB Roboterwettbewerb 2012.
Bild: DW
Das wäre nicht nötig gewesen
Zu solchen Massenkarambolagen kommt es, wenn Menschen zu schnell fahren, schlechte Sicht haben und nicht genügend Sicherheitsabstand einhalten. Klug gebaute Roboter-Autos würden solche Fehler nicht machen. Wären viele von ihnen vernetzt, könnten sie sogar schon Kilometer vorher Signale an nachfolgende Autos schicken: Vorsicht Stau!
Bild: picture-alliance/dpa
Sensoren für alle Gefahren-Typen
Roboter-Autos können unterschiedliche Augen nutzen, um ihre Umwelt zu erkennen. Ein von Google entwickeltes autonomes Auto nutzt zum Beispiel solch einen Lasersensor. Der dreht sich und tastet dabei seine Umgebung mit einem Laserstrahl dreidimensional ab.
Bild: DW/Fabian Schmidt
Die echte Welt aus Laser-Sicht
Und so sieht das dann aus: Der Wagen der Universität der Bundeswehr fährt durch unwegsames Gelände. Der Laser entwirft eine dreidimensionale Karte, die er in den Computer einfüttert. So kann man sogar die Perspektive eines Außenstehenden einnehmen und dem Wagen bei seiner Entdeckungsfahrt zuschauen.
Bild: Universität der Bundeswehr/TAS
Orientierung per Satellit, Radar und Auge
Roboter können sich auch mit vielen anderen Mitteln im Feld orientieren. Zum Beispiel mit optischen Augen - wie dieser handelsüblichen USB-Kamera - oder kleinen Radar-Sensoren. Auch die Positionsbestimmung per Satellit ist für Autos wichtig - über GPS-Daten.
Bild: DW/Fabian Schmidt
Sehende Autos - Zukunftstechnologie aus Deutschland
Mit optischen Kameras arbeiten auch Forscher bei Daimler. Für die Erfindung sehender Autos wurden sie 2011 für den Deutschen Zukunftspreis nominiert. Diese Kamera ist hinter der Windschutzscheibe eines Mittelklassewagens montiert. Aufmerksam verfolgt sie, was sich auf der Straße abspielt.
Bild: Deutscher Zukunftspreis/Ansgar Pudenz
Aus Bildpunkten wird Bewegung
Die optische Kamera erkennt zunächst tausende Bildpunkte - eine sogenannte Punktewolke. Aus der Bewegung einzelner Bildpunkte errechnet sie Vektoren - also Bewegungspfeile. Verschiedene Vektoren sind unterschiedlich lang. Daraus entwirft der Bordcomputer ein komplexes Bewegungsbild des Verkehrs vor und neben dem Auto.
Bild: Deutscher Zukunftspreis/Ansgar Pudenz
Abbremsen oder ausweichen?
Indem der Bordcomputer die Vektoren herausfiltert, die bei der Fahrtgeschwindigkeit des Autos ungewöhnlich verlaufen, kann er Gefahren erkennen: Ein Fußgänger läuft von rechts vor das Auto und wird orange markiert. Im Hintergrund entfernt sich ein anderes Auto. Die Bewegungspunkte sind grün - keine Gefahr. So kann der Wagen reagieren, falls der Fahrer unaufmerksam ist.
Bild: Deutscher Zukunftspreis/Ansgar Pudenz
Wer entscheidet - Computer oder Mensch?
Die Technik wäre also so weit. Aber die Frage, ob Roboter autonom auf den Verkehr losgelassen werden sollen, stellt Politiker und Juristen vor schwierige ethische Fragen: Wer trägt die Verantwortung, wenn ein Roboterauto einen Unfall baut: Hersteller, Software-Programmierer, Eigentümer oder Fahrzeugführer? Und wie sieht es außerhalb des normalen Straßenverkehrs aus?
Bild: DW/Fabian Schmidt
Wenn es für Menschen zu gefährlich wird
Zum Beispiel im Kriegseinsatz - wenn man Material von einem Ort zum anderen transportieren will. Oder nach einem Chemie- oder Nuklearunfall, wenn das kontaminierte Gebiet für Menschen zu gefährlich ist. Dafür bauen Entwickler autonome Fahrzeuge, die schon heute praktische Aufgaben erfüllen können, wie hier bei der polnischen Militärakademie.
Bild: DW/Fabian Schmidt
Leistungsschau autonomer Roboter
An der polnischen Militärakademie in Warschau fand im Sommer 2014 der Europäische Roboterwettbewerb ELROB statt. Fünf Tage lang konnten sich dort solche autonomen Fahrzeuge messen. Dieser Transporter der schweizerischen RUAG wurde erstmals 2012 in Thun in der Schweiz vorgestellt.
Bild: DW
Hände weg vom Steuer!
Fährt ein Fahrzeug ohne Fahrer auf eine Sprengfalle, geht zwar die Technik kaputt, doch zumindest kommt kein Mensch zu Schaden. Bei der ELROB-Übung musste allerdings noch jemand im Führerhaus sitzen, um den Not-aus-Knopf zu drücken, falls etwas schief ginge.