Der umstrittene «Autopilot» von Tesla

Die selbstfahrenden Autos sind ins Gerede gekommen, seit ein Tesla ungebremst in einen Lastwagenanhänger raste. Der eingebaute Autopilot hatte das querende Fahrzeug nicht erkannt. Auch in der Schweiz ist ein Unfall mit aktiviertem Autopilot dokumentiert. Der Tesla übersah auf einer Autobahn einen stehenden Kleinlaster, der eine Panne hatte. Dagegen jubilierten die Anhänger der neuen Technik, als nach einem weiteren Unfall im amerikanischen Bundesstaat Pennsylvania bekannt wurde, dass das System ausgeschaltet war. Laut Tesla-Chef Elon Musk hätte sich dieser Crash nicht ereignet, wenn es eingeschaltet gewesen wäre.

Der «Autopilot» in der Diskussion

Wie umstritten das neue System ist, das zeigen die Reaktionen: Anhänger des autonomen Fahrens betonen, dass ein Autopilot trotz einzelner Unfälle immer noch sicherer sei als menschliche Fahrerinnen und Fahrer. Das amerikanische Magazin «Consumer Reports» dagegen fordert Tesla auf, das neue System abzuschalten. Der «Autopilot» gebe ein falsches Gefühl der Sicherheit. Fahrerinnen und Fahrer seien bei der Benutzung dieses Systems nicht genügend aufmerksam im Strassenenverkehr unterwegs, um in Notsituationen schnell zu reagieren. Zwar geht auch Tesla davon aus, dass die Fahrerinnen und Fahrer nach wie vor für ihr Fahrzeug verantwortlich sind und ihre Hand am Steuerrad haben müssen. Aber es ist ein Widerspruch, wenn der Autopilot gerade nicht das tut, was er verspricht, nämlich autonomes Fahren zu ermöglichen.

Kritisiert wird auch das Verhalten der Firma Tesla selbst. Denn erst einige Wochen nach dem Unfall mit dem Lastwagen hatte die Firma die Öffentlichkeit darüber informiert, dass dabei der Autopilot eingeschaltet war – zeitgleich mit der Mitteilung der amerikanischen Verkehrsbehörde NHTSA, dass sie den Fall untersuche und eingehend prüfen werde.

Die Schuld liegt nach wie vor beim Halter

Solche Unfälle stellen die Frage nach der Schuld: Liegt diese bei den Fahrerinnen und Fahrern, denen es an der notwendigen Aufmerksamkeit mangelte? Oder ist es die Firma Tesla, die bei einem Crash mit dem Autopiloten haftet – oder vielleicht gar ein Zulieferer, dessen Software nicht funktionierte?

Rechtlich ist diese Frage allerdings nach dem heutigen Stand des Strassenverkehrsgesetzes (SVG) klar geregelt. Danach haftet der Halter eines Fahrzeuges für Schäden, welche aufgrund des Betriebs seines Fahrzeuges entstehen – und dies gilt unabhängig vom Automatisierungsgrad.

Dennoch wird die Entwicklung der selbstfahrenden Autos auch zu Anpassungen der Gesetze führen. So hat vor einem Jahr das das Departement für Umwelt, Verkehr, Energie und Kommunikation (UVEK) der Swisscom eine Ausnahmebewilligung für Tests mit einem autonomen Fahrzeug auf öffentlichen Strassen erteilt. Für ein Pilotprojekt war eine Ausnahmebewilligung nötig, weil man im normalen Verkehr das Lenkrad nicht loslassen darf. Genau das muss aber möglich sein, wenn das autonome Fahren zum normalen Alltag gehören soll. Im Hinblick auf diese automobile Zukunft ist zudem zu fragen, was Halter und Fahrer noch dafür können, wenn ihr PKW einen Unfall baut. Die automatisierten Entscheidungsprozesse der Technik funktionieren ja so schnell, dass die Fahrerinnen und Fahrer kaum mehr Zeit haben werden, sich dazwischenzuschalten.

Das «Trolley-Problem»

Doch auch wenn die Unfälle dank technologischer Entwicklungen weiter reduziert werden können, bleiben grundsätzliche Probleme ungelöst. So stellt sich die Frage, wie solche Systeme reagieren sollen, wenn ein Crash unvermeidlich ist. Die britische Philosophin Philippa Foot hatte schon 1967 das sogenannte «Trolley Problem» beschrieben – ohne dass sie ahnen konnte, wie aktuell dieses einmal werden könnte.

Beim «Trolley Problem» fährt eine Strassenbahn auf fünf Menschen zu, die sich auf den Gleisen aufhalten. Es gibt aber die Möglichkeit, die Bahn durch Betätigung einer Weiche auf ein anderes Gleis zu lenken, auf dem nur ein Mensch liegt. Dadurch kommt es statt zu fünf Toten nur zu einem. Ist es in einem solchen Fall gerechtfertigt, die Weiche zu betätigen, weil mehr Leute gerettet werden können?

In Deutschland hat sich 2005 das Deutsche Bundesverfassungsgericht zu einem ähnlichen Fall geäussert. Dabei ging es um die Frage, ob man z.B. ein von Terroristen entführtes Passagierflugzeug abschiessen darf, um zu verhindern, dass es in ein vollbesetztes Fussballstadion gelenkt wird. Das Gericht befand eine Gesetzesvorlage, die das ermöglichen wollte, als verfassungswidrig. Man dürfe Menschenleben nicht gegeneinander aufrechnen, da man sie damit ihrer unantastbaren Menschenwürde beraube.

Der Schriftsteller Ferdinand von Schirach nahm dieses Beispiel für ein Theaterstück auf: Er lässt den Major Lars Koch das Flugzeug mit seinem Kampfjet abschiessen, um ein Attentat auf die vollbesetzte Münchner Allianz Arena zu verhindern. Im Theaterstück «Terror» soll das Publikum darüber abstimmen, ob Koch für diese Tat schuldig zu sprechen sei, wobei im Internet über die Resultate Buch geführt wird: Mit Datum vom 21. Juli 2016 hätten 124’983 oder 59,4 Prozent der Besucher den Major freigesprochen. Trotz dem Grundsatz der Menschenwürde scheint hier ein Grundsatz der grösseren Zahl von Opfern eine Rolle zu spielen.

Selbstfahrende Autos und die Moral

Das Trolley-Problem gilt aber auch für selbstfahrende Autos: Das «Massachusetts Institute of Technology» (MIT) hat dazu im Internet eine «Moral Machine» veröffentlicht, wo man dazu eigene Eckwerte eintragen kann:

Das obige Beispiel zeigt, dass eine Fahrbahn abgesperrt ist. Das selbstfahrende Auto kann nun direkt in die Absperrung lenken, wobei die fünf Personen im Wagen umkommen. Es kann aber auch auf die Gegenfahrbahn ausweichen, wobei zwei Kinder sterben.

Solche Beispiele sind Ausfluss einer utilitaristischen Ethik, wo man versucht, den geringsten Schaden als gerechtfertigt auszugeben. Man muss hier also auf Fragen antworten, ob Kinder «wertvoller» als Erwachsene sind, ob man eher fünf als zwei Personen retten sollte, oder ob die Passagiere des eigenen Fahrzeugs Vorrang haben. Letzteres könnte zum Beispiel beim Kauf eines Wagens eine Rolle spielen: Denn soll ich einen Wagen kaufen, der mich im Notfall vielleicht nicht schützen wird, weil die Programmierung andere Entscheidungskriterien aufweist. Mit diesem Aufrechnen hat man aber generell jenen Boden der Menschenwürde verlassen, welchen in Deutschland das Grundgesetz festhält.

Fazit

Die schlechteste Lösung wäre es sicher, die Entscheidung über Leben oder Tod einfach den Programmierern zu überlassen. Denn solche Regeln brauchen eine öffentliche Akzeptanz. Es müssen also akzeptable Lösungen gefunden werden, die vor den Gesetzen und Verfassungsnormen standhalten und als moralische Standards von der öffentlichen Meinung akzeptiert werden.

Dies ist umso wichtiger, weil selbstfahrende Autos an sich eine gute Sache sind. Sie reduzieren die Unfälle von unachtsamen Fahrern auf den Strassen. Und sie ermöglichen einen besseren Verkehrsfluss, der Staus reduziert und das bestehende Strassensystem effizienter nutzt. Doch trotz all dieser Vorteile gibt es Entscheidungen, die wir nicht einfach an eine Maschine delegieren können.