Wenn der Fahrer plötzlich Passagier ist

Dr. Tobias Miethaner, Ulrich Klaus Becker, Tobias Wangermann und Dr. Nikolai Horn (v.l.n.r.)

Dr. Tobias Miethaner (Abteilungsleiter Digitale Gesellschaft im Bundesministerium für Verkehr und digitale Infrastruktur)

Ulrich Klaus Becker (Vizepräsident für Verkehr des ADAC e.V.)

Dr. Nikolai Horn (Philosoph, Referent für Grundsatzfragen bei der Stiftung Datenschutz)

Moderator Tobias Wangermann (Leiter Team Digitalisierung der Konrad-Adenauer-Stiftung)

Die Diskussionsrunde wurde auch per Lifestream übertragen.

Im Automobil der Zukunft sitzt der Mensch zwar noch selbst hinter dem Steuer, die eigentliche Arbeit übernimmt jedoch das Fahrzeug selbst. Während wir also im morgendlichen Berufsverkehr die Tageszeitung lesen, noch schnell die Powerpoint-Präsentation durchgehen oder Mails schreiben, sorgen Algorithmen im Inneren unseres Fahrzeugs dafür, dass wir sicher von A nach B kommen. Wenn wir den Automobilkonzernen oder Technologievorreitern wie Tesla oder Google Glauben schenken wollen, werden wir bereits in wenigen Jahren in automatisierten oder sogar autonomen Fahrzeugen fortbewegen. Neben der E-Mobilität ist das automatisierte und vernetze Fahren eines der großen Zukunftsthemen der Automobilbranche. So aufregend die Zukunftsvision auch klingen mag, die Mehrzahl fühlt sich immer noch unwohl bei dem Gedanken, sich die Verantwortung mit dem Auto zu teilen. Werden unsere Straßen durch diese Technologie wirklich sicherer? Wer trägt die Verantwortung, wenn doch ein Unfall passiert? Und können Algorithmen überhaupt so programmiert werden, dass sie im Ernstfall die richtigen Entscheidungen treffen?

„Der Fahrer wird zum Passagier“

Vom automatisierten bis hin zum autonomen Fahren liegt noch ein gewaltiger Entwicklungsschritt vor uns. Tobias Wangermann, Leiter des Teams Digitalisierung der Konrad-Adenauer-Stiftung und Moderator der Diskussionsrunde, merkt gleich zu Beginn an, dass uns bereits heute zahlreiche elektronische Assistenten wie z.B. Navigationssysteme, Regensensoren, Abstandswarner oder elektronische Einparkhilfen beim Autofahren die Arbeit erleichtern oder für unsere Sicherheit sorgen. Das automatisierte Fahren biete gerade für den ländlichen Raum oder für Menschen, die z.B. aus gesundheitlichen Gründen nicht am Straßenverkehr teilnehmen können, einen großen Gewinn an Mobilität, so Wangermann. Dennoch fühlen sich viele Menschen unwohl bei dem Gedanken, die Verantwortung an eine Maschine abzugeben und nicht mehr frei darüber entscheiden zu können, wann wir abbremsen oder zum Überholmanöver ansetzen. „Der Fahrer wird plötzlich zum Passagier“, fasst Tobias Wangermann dieses Gefühl zusammen. Unfälle mit tödlichem Ausgang wie zuletzt im Mai 2016 in Florida bei einer Kollision eines Tesla-Fahrers im Autopilotmodus mit einem LKW werfen erneut Fragen auf, wie sicher das automatisierte Fahren wirklich ist. Wenn sich Fahrer und Auto die Verantwortung teilen, wer trägt im Falle eines Unfalls die juristische und moralische Verantwortung? Nach welchen ethischen Kriterien treffen Algorithmen Entscheidungen (z.B. über Leben und Tod), wenn ein Unfall unvermeidbar ist?

“Die Technologie wird unsere Straßen sicherer machen“

Die Politik schaut bereits seit einigen Jahren mit großem Interesse auf das automatisierte Fahren. Das Bundesministerium für Verkehr und digitale Infrastruktur (BMVI) hat bereits im November 2013 einen runden Tisch mit allen an der Einführung von Systemen des automatisierten Fahrens beteiligten Akteuren eingerichtet. Seit letztem Jahr diskutieren Juristen, Ingenieure, Philosophen sowie Vertreter der Automobilkonzerne und des ADAC in einer unabhängigen und zeitlichen unbefristeten Ethik-Kommission zum automatisierten Fahren nicht nur über ethische und juristische Fragestellungen, sondern auch über die Themen Cybersicherheit und Datenschutz sowie die Einrichtung spezieller Teststrecken für automatisierte Fahrzeuge. Dr. Tobias Miethaner, Abteilungsleiter Digitale Gesellschaft im BMVI sieht hier eine Zukunftstechnologie, die für den Wirtschafts- und Forschungsstandort Deutschland enorme Chancen bietet. Auf der anderen Seite kann er nachvollziehen, dass der Paradigmenwechsel, der durch die Übertragung der Verantwortung vom Menschen auf die Maschine entsteht, Unsicherheiten in der Gesellschaft hervorrufe. „Der Verbraucher muss in die Diskussion miteingebunden werden“, fordert Miethaner. Er ist überzeugt, dass der Straßenverkehr durch das automatisierte Fahren sicherer werde. Die Sensorik der neuartigen Fahrzeuge werde besser und zuverlässiger sein als die menschliche Sinneswahrnehmung. In Extremsituationen können moderne Systeme schneller reagieren während der Mensch erst nach der typischen Schrecksekunde die Situation erfasst hat und eingreifen kann. Auf die Frage, ob automatisierte Fahrsysteme anfällig für Hackerangriffe seien, erwidert Miethaner, dass das Thema Cybersicherheit selbstverständlich eine große Rolle auf der Agenda der Ethik-Kommission spiele. Völlig ausschließen können man die Möglichkeit, das Hacker versuchen, von außen auf die Fahrsysteme zuzugreifen, jedoch nicht. „Gegen eine Manipulation von außen kann es keine 100-prozentige Sicherheit geben“, warnt Miethaber.

Ein mehr als 2500 Jahre altes Dilemma

Im Falle einer unvorhersehbaren Situation (z.B. plötzliches Bremsversagen) müssen die Algorithmen in einem automatisierten Fahrzeug in Sekundenbruchteilen Entscheidungen treffen und Maßnahmen einleiten, die möglicherweise über Leben und Tod entscheiden. Trifft es den Fahrer selbst, der gegen eine Betonbarriere prallt, oder den Fußgänger auf dem Zebrastreifen? Rentner oder Kind? Mann oder Frau? Führungskraft oder Obdachloser? Mit der moral machine, entwickelt vom Media Lab des Massachusetts Institute for Technology (MIT), können moralisch problematischen Szenarien virtuell durchgespielt und ein Bewusstsein dafür geschaffen werden, welche Entscheidungen ein autonomes Fahrzeug treffen muss, wenn ein Unfall unvermeidbar ist. Solche Dilemma-Situationen stellen für Dr. Nikolai Horn, Referent für Grundsatzfragen bei der Stiftung Datenschutz und Philosoph, keineswegs neue Phänomene dar, die erst im Zusammenhang mit dem automatisierten Fahren diskutiert werden. Im Grunde handele es sich um eine mehr als 2500 Jahre alte Fragestellung, die unter u.a. unter dem Namen „Schiffbrüchigen-Dilemma“ die Menschheit seit Generationen zum Nachdenken anregt. Horn ist überzeugt, dass wie in der moral machine geschilderte Entscheidungen nur von vernunftbegabtes Wesen getroffen werden können. „Man kann Autos nicht beibringen, moralische Entscheidungen zu treffen“, so der Philosoph. Neben den ethischen Fragestellungen rund ums automatisierte Fahren sieht er ein weiteres Spannungsfeld im Bereich des Datenschutzes. Er fordert, dass Datenschutzrichtlinien für Verbraucher verständlicher werden müssen. Der Fahrer müsse darüber aufgeklärt werden, was mit seinen Daten (darunter technische Daten des Fahrzeugs aber auch Persönlichkeitsdaten und Bewegungsprofile des Fahrers) passiert und wer auf diese Daten zugreifen kann.

„Der Mensch entscheidet auch weiterhin“

Auf dem Weg zur Arbeit noch schnell die Nachrichten checken, mal wieder ein Buch lesen oder ein kurzes Nickerchen machen. Die Entwickler automatisierter Fahrzeuge locken potenzielle Käufer auf den verschiedenen Autosalons und Fachmessen nicht nur mit dem Sicherheitsaspekt ihrer vollautomatisierten Hightechautos, sondern auch mit einem Gewinn an Komfort. Ulrich Klaus Becker, Vizepräsident des ADAC, kann mit den Zukunftsvisionen einiger Hersteller solcher „Freizeitparkautos“ nur wenig anfangen. Selbst die ausgeklügelste Technologie dürfe den Autofahrer nicht davon entbinden, sich im Straßenverkehr verantwortungsbewusst zu verhalten. Das Auto bleibe auch in Zukunft "ein vom Menschen beherrschtes Fortbildungsmittel". Autonomie, Algorithmen und machine learning zum Trotz: „Der Mensch entscheidet auch weiterhin“, so Becker. Der Jurist rechnet damit, dass es noch mindestens 20 Jahre dauert, bis völlig autonome Fahrzeuge auf Deutschlands Straßen unterwegs sind. Die Übergangszeit müssen wir dazu nutzen, die Grenzen dessen, was haftungs- oder strafrechtlich zulässig sein soll, auszuloten. Erst wenn geklärt ist, wer im Falle eines Unfalles die juristische und moralische Verantwortung trägt, werde die Gesellschaft die neue Technologie auch akzeptieren. Auch Ulrich Klaus Becker erhofft sich durch das automatisierte Fahren einen Zugewinn an Sicherheit auf unseren Straßen. Mehr als 3.000 Verkehrstote gab es allein im Jahr 2016. Ein Großteil der Unfälle entsteht durch menschliches Versagen. Durch das autonome Fahren könnte die Zahl der Unfälle auf ein Minimum reduziert werden. Allein deshalb lohne es sich, dieser Technologie eine Chance zu geben.