Darauf, sagt Rojas, gebe es keine richtige Antwort, und die Frage sei schon im Grunde völlig falsch gestellt. Denn sie gehe davon aus, dass das Auto – oder besser gesagt, der steuernde Computer – eine eigene Ethik habe. Mit ethischen Fragen indes sei jeder Computer überfordert. Beantwortet sie ein Computer, so ist sie ihm eingeschrieben worden – vom Programmierer. „Die Ethik des Computers ist immer die Ethik des Programmierers“, bringt es Raúl Rojas auf den Punkt: „Roboter können keine Entscheidungen treffen und haben keinen freien Willen.“

Und auch ein Programmierer muss sich an die geltenden Gesetze halten, die etwa in Deutschland regeln: Das Leben einer Person darf nicht gegen das Leben anderer Personen aufgewogen werden. Dieses Problem wurde unter anderem öffentlich diskutiert anhand der Frage, ob die Bundeswehr ein voll besetztes Passagierflugzeug abschießen dürfe, wenn die Gefahr drohe, dass es als Terrorwaffe missbraucht würde. Die Antwort des Bundesverfassungsgerichts war klar: Das darf nicht geschehen.

Rojas will sich damit nicht aus der ethischen Affäre ziehen. Er verweist darauf, dass es schon viele Gesetze gebe, die solche Fragen regeln, und diese Regelungen könne man einem Computer vorgeben. So könne man einen Sachschaden geringer einstufen als einen Personenschaden oder die Gefährdung kleiner Tiere geringer als die von Menschen. „Mensch gegen Mensch“ dürfe nicht entschieden werden. Der im Juni 2017 vorgelegte Bericht der Ethikkommission zum autonomen Fahren hat dies zum moralischen Grundsatz erklärt. Eine Abwägung Jung gegen Alt etwa wäre gegen die Menschenwürde.

Raúl Rojas verweist darauf, dass sich Menschen in solchen Extremsituationen alles andere als altruistisch verhalten. So landen viele Piloten in Notsituationen auf Autobahnen oder sogar an einem Strand – denn sie schätzen bei einem solchen Landeplatz die eigene Gefährdung und die der Passagiere als geringer ein als bei einer Landung auf einem Acker oder dem Wasser, obwohl dort insgesamt weniger Menschenleben gefährdet würden. Ein Computer kenne solche „Selbstschutzmechanismen“ nicht und versuche grundsätzlich, einen Unfall in Gänze zu vermeiden. „Im Fall des Autos heißt das stets: Vollbremsung und Spur halten“, sagt Raúl Rojas. Auch könnten autonom fahrende Autos nicht als Waffe oder für einen Suizidversuch missbraucht werden, da sie sich nicht in Menschenmassen lenken lassen können, wie bei den Terroranschlägen in Nizza oder auf dem Berliner Breitscheidplatz.

Den Einwand, moderne Computersysteme beherrschten maschinelles Lernen und könnten auch in autonom fahrende Autos über ihre ursprüngliche Programmierung „hinauswachsen“, lässt der Forscher ebenfalls nicht gelten. Solche Programme wären in Autos verboten. „Niemand würde ein Kernkraftwerk bauen, dass sich selbst kontrolliert und aus sich heraus selbst lernt“, wendet er ein. „Da hilft es auch nicht, wenn man die gesamte Ethik Immanuel Kants in die Maschine programmiert“, sagt Rojas, der gerade in der Diskussion mit Philosophen immer an die eingangs erwähnte Frage gerät. 

 

Für ein völlig autonom fahrendes Auto, etwa im Stadtverkehr, brauche es auch wesentlich mehr Forschung und damit Zeit – noch mindestens 20 Jahre, sagt der Wissenschaftler. Da gebe es noch viel zu tun, bevor man sich um solche Feinheiten kümmern könne. Alle heute verfügbaren Assistenzsysteme können Fahrradfahrer gar nicht erkennen, von Menschen, die zwischen Autos hervorspringen, ganz zu schweigen. Ein in der Innenstadt autonom fahrendes Fahrzeug müsste alles im Blick behalten können – das leistet aber kein gegenwärtiger Computer.

Hinzu kommt die Notwendigkeit einer Absichtserkennung: Selbst wenn ein Computer einen Menschen erkennt, kann er nicht ablesen, was dieser tun wird – etwa vor Hotels, wo sich viele Menschen vor und zwischen Taxis und Autos bewegen. Auch sind damit rechtliche Fragen verknüpft: Derzeit haftet ein Autofahrer für alles, was mit seinem Auto geschieht, wenn er hinter dem Steuer sitzt. Bei einem völlig autonomen Fahrzeug müsste der Hersteller für sein Produkt haften.

Da der Computer eine derart große Zahl von Faktoren aufnehmen, verarbeiten und in Steuerbewegungen umsetzen müsste, bräuchte dieser mehr Zeit. Die reale Geschwindigkeit in Innenstädten würde daher sinken. „Die Autos bewegen sich in Berlin im Mittel nur mit 23 Kilometern je Stunde voran, selbst wenn man Tempo 50 fahren könnte“, sagt Rojas. Er hat errechnet, dass sich die Zahl der Pkw auf ein Viertel reduzieren ließe, wenn alle nur „Shared Cars“, also öffentlich geteilte, autonome Wagen nutzen würden. „Dann käme man mit Tempo 40 bei geringerer Unfallgefahr früher ans Ziel“, argumentiert er. Das perfekte autonome, mit der Straße und allen anderen Fahrzeugen vernetzte Auto könnte dann auch in Leichtbauweise erstellt werden, da quasi keine Unfälle mehr vorkämen. Die Zahl der Verkehrstoten würde deutlich sinken. Zudem würde der Energieverbrauch gesenkt. Um außerhalb von Ortschaften schneller voranzukommen, könnte solch ein Auto die Passagiere bis zur Autobahn, dem Flughafen oder Bahnhof fahren.

Raúl Rojas betont, dass es sich um seine persönliche Vision handele, seine „Autopie“. Diese Vision ist für ihn forschungsleitend, denn er sieht in ihr die meisten Vorteile miteinander vereint – mit dem bestmöglichen Schutz vor Unfällen und den bestmöglichen Auswirkungen auf die Umwelt: Die Menschen könnten die Räume innerhalb von Städten wieder anders nutzen, weil zum Beispiel ein Großteil des Parkraums nicht mehr benötigt würde, und dennoch müsste niemand seine individuelle Mobilität aufgeben. Ob sich diese Vision verwirklicht, hänge nicht allein von seiner Forschung ab, sagt der Wissenschaftler. Bestimmend seien Entscheidungen der Politik, die Entwicklung der Gesellschaft und auch die Bewertung des Autos als Wirtschaftsgegenstand. Beim Stichwort Autobahn wird sich diese Vision jedenfalls nicht erst in 20 Jahren, sondern schon in nächster Zeit erfüllen, davon ist Rojas überzeugt. Viele Firmen und auch einige Forscher haben bereits Vorserienmodelle in Betrieb, die auf der Autobahn quasi auf Autopilot schalten können. Die meiste der dafür benötigten Technik ist in heutigen Luxuslimousinen schon erhältlich: Spurhalteassistenten, Abstandhalter – von 2020 an wird es das Überholen auf Knopfdruck geben. Ein Autopilot im eigentlichen Wortsinne sei das indes noch nicht, betont Raúl Rojas. Der Fahrer behalte für bestimmte Fälle die Verantwortung, etwa, wenn die Automatik aussetzt oder wenn Spurmarkierungen fehlen. Dafür können moderne Wagen schon Verkehrsschilder lesen oder per Augenkamera beobachten, ob der Fahrer müde wird. Auch dass Autos untereinander Daten austauschen können, etwa über Baustellen oder Ampeln, wird Rojas zufolge bald in Serie gehen. Im Gegensatz zur von Unvorhersehbarkeiten nur so gespickten Innenstadt sei das Fahren auf der Autobahn eine mit der heutigen Technik bereits beherrschbare Angelegenheit. „Das Fahren auf den Autobahnen ist längst schon eine kommerzielle Angelegenheit geworden. Dagegen ist das Fahren in den Innenstädten weiterhin vor allem eine Forschungssache. Die Freie Universität hat dafür einen Prototypen entwickelt, ebenso wie Google, Audi und BMW. Doch bis das autonome Auto wirklich praxistauglich ist, wird noch einige Zeit vergehen“, sagt Raúl Rojas. Der Forscher wird noch in mancher Debatte geduldig auf diese eine Frage antworten müssen, die er für grundfalsch in ihren Annahmen hält.

Raúl Rojas, der seit 1997 an der Freien Universität lehrt, ist einer der Pioniere des autonomen Fahrens. Seit 2006 hat er, zusammen mit seinem Team an der Freien Universität, verschiedene Prototypen entwickelt, die eine Fahrgenehmigung für Berlin erhalten haben. Für seine Forschung hat er zahlreiche Auszeichnungen erhalten, darunter den European Software Award, den ersten Wolfgang-von-Kempelen-Preis für Informatikgeschichte und den Technologietransferpreis der Technologiestiftung Berlin. Im Jahr 2014 war Raúl Rojas „Hochschullehrer des Jahres“. Ein Jahr danach erhielt den Nationalen Wissenschaftspreis Mexikos.

Kontakt

Freie Universität Berlin
Dahlem Center for Machine Learning and Robotics
E-Mail: information-ki@fu-berlin.de