Was würden Sie tun? Sie können Ihr Auto nicht mehr bremsen und sind gezwungen, entweder eine ältere Frau oder einen jungen Mann zu überfahren und vermutlich zu töten. Und wenn die Dame sich gerade von einer schweren Krankheit erholt hat und nun endlich wieder ihr Leben genießen will, der junge Mann hingegen ein Tunichtgut ist, der auf Kosten anderer Leute lebt? Eine Entscheidung ist schwierig oder gar unmöglich.
Mit diesem Problem müssen sich selbstfahrende Fahrzeuge auseinandersetzen. Die Entwicklung des autonomen Fahrens schreitet stetig voran, und bereits heute verfügen immer mehr Autos über Assistenzsysteme. Programmierer entwickeln Algorithmen, um die Fahrzeuge zu steuern, aber auch Entscheidungen in kritischen Situationen zu treffen. Beispielsweise müssen die Autos auf Nebel reagieren oder wenn die Bremsen versagen.
Das dadurch entstehende grundsätzliche moralische Problem wird oft anhand des „Trolley-Problems“ diskutiert. Der Name geht auf ein Gedankenexperiment zurück: Ein Zug ist außer Kontrolle geraten und droht fünf Personen zu überrollen. Der Weichensteller kann zwar die Bahn umlenken, nimmt damit aber den Tod einer anderen Person in Kauf. Welche Handlung ist ethisch richtig? Übertragen auf selbstfahrende Autos stellt sich die Frage, wie der Algorithmus entscheidet, wenn er nur die Wahl zwischen schlechten Alternativen hat.
Das viel diskutierte Trolley-Problem ist zwar philosophisch interessant, tritt aber in der Realität nur höchst selten auf. Selbstfahrende Fahrzeuge verhindern zudem viele Unfälle, beispielsweise weil es keine eingeschlafenen Fahrerinnen oder Fahrer gibt und diese nicht durch tote Winkel verwirrt werden.
Die ethische Gesamtbilanz autonomer Fahrzeuge ist somit positiv. Hingegen sind die überaus seltenen Trolley-Situationen wenig relevant. Das zugrunde liegende philosophische Problem ist sehr alt und ohne starke Annahmen grundsätzlich unlösbar. Ein komplizierter Algorithmus, der alle möglichen auftretenden Situationen erfasst und mittels gewichteten ethischen Faktoren eine Entscheidung treffen soll, ist daher nicht zielführend.
Eine Forschergruppe der TU München hat es dennoch versucht und in der Fachzeitschrift „Nature Machine Intelligence“ einen neuen Vorschlag zur Ethik beim autonomen Fahren veröffentlicht. Die Forscher definierten für die Bewertung von kritischen Situationen fünf ethische Regeln.
So wird denjenigen Personen, die bei einem Unfall am schlimmsten betroffen wären, ein besonderer Schutz zugestanden. Mit diesen Kriterien bewerteten die Wissenschaftler zweitausend verschiedene Situationen. Besonders schwierig ist hierbei die Gewichtung der ethischen Prinzipien. Nach ihrem Kriterium würde der Algorithmus es vorziehen, zwei kräftige Männer und nicht eine alte Dame zu gefährden.
Das Problem der moralisch unterschiedlichen Bewertungen wird damit nicht gelöst. Die deutsche Ethikkommission hat in einem Gutachten im Januar 2017 sogar ultimativ gefordert: „Jede Qualifizierung nach persönlichen Merkmalen (wie Alter oder Geschlecht) ist strikt untersagt“.
Wir machen einen anderen Vorschlag. In der beschriebenen Extremsituation soll der Algorithmus per Zufall entscheiden, welche der zwei schlechten Alternativen zu wählen ist. Mit anderen Worten: Es wird das Los gezogen. Weil das ethische Grundproblem nicht lösbar ist, soll der Zufall entscheiden.
Jede Alternative hat somit die gleiche Chance, gewählt zu werden. Das Gesetz der großen Zahlen sorgt für echte Fairness. Eine Gleichverteilung der Gefährdung ist gerechter als ein Algorithmus, der auf fragwürdigen moralischen Empfindungen beruht. Eine zufällige Entscheidung ist überdies weit kostengünstiger und lässt sich leicht umsetzen.
Auf den ersten Blick erscheint eine Zufallsentscheidung willkürlich und wenig rational. Historische Erfahrungen zeigen jedoch, dass das Zufallssystem sehr erfolgreich gewesen ist. Im antiken Griechenland wurden in Athen die politischen Ämter mittels eines Losverfahrens aus den Bürgern besetzt. Die Republik Venedig und andere blühende norditalienische Städte haben dieses Verfahren über Jahrhunderte erfolgreich angewandt.
Es gibt nicht die allein richtige Entscheidung
Sie waren in dieser Zeit – ähnlich wie Athen zuvor – politisch, wirtschaftlich und kulturell enorm erfolgreich. Wie bei dem Trolley-Problem gibt es aus ethischer Sicht nicht eine objektive, allein richtige Entscheidung. Zufallsentscheidungen funktionieren in dieser Situation besonders gut, da die Entscheidungsfindung auf menschliche Willkür verzichtet und stattdessen auf Zufall vertraut.
