Ethik und das autonome Fahrzeug: Was dürfen Maschinen entscheiden?

Mann liest Zeitung im autonomen Fahren
Automatisiertes Fahren: Ab 2050 könnte diese Vision Realität sein © Shutterstock/metamorworks

Autonomen Fahrzeugen könnte die Zukunft gehören. Aber was bedeutet es, wenn Maschinen in kritischen Situationen entscheiden? Der aktuelle Stand der Diskussion.

  • Autonome Fahrzeuge müssen den Verkehr sicherer machen

  • In Dilemma-Situationen dürfen Menschenleben nicht gegeneinander aufgewogen werden

  • Eine gesetzliche Pflicht zum autonomen Fahren darf es nicht geben

Immer wieder gibt es technische Entwicklungen, die die Menschheit vor neue, sehr grundsätzliche Fragen stellen. Zum Beispiel die Kernenergie: Rechtfertigt die Aussicht auf fast unbegrenzte Energieversorgung das Risiko, ganze Landstriche unbewohnbar zu machen, falls ein Kraftwerk doch explodieren sollte?

Beim autonomen Fahren wären die Folgen von Fehlentwicklungen wohl nicht so dramatisch. Ethisch-moralische Herausforderungen bringt die neue Technik dennoch mit sich. Bis sie sich im Straßenverkehr durchgesetzt hat, dürfte es noch bis in die 2050er-Jahre dauern. In den vergangenen Jahren haben sich Ethiker und Ingenieurinnen, Juristen und Verbraucherschützerinnen mit ihren Chancen und Risiken beschäftigt.

Künstliche Intelligenz im autonomen Auto

Denn beim autonomen Fahren dürfen sich die Fahrzeuginsassen vollständig vom Verkehrsgeschehen abwenden, werden zu Passagieren. Die Maschine übernimmt. Sensoren im Fahrzeug überwachen dann das Umfeld, Algorithmen berechnen auf Basis dieser und anderer Informationen – denkbar wären Daten zur Wettersituation oder von anderen Pkw – die jeweils passende Reaktion.

Bei der Entwicklung dieser Steuerungssysteme werden künstliche neuronale Netze, also künstliche Intelligenz, eingesetzt. Sie können auf Basis von "Erfahrungen" neue Regeln "erlernen." So entsteht eine Regelbasis, die dann als eine Art Betriebssystem auf dem Zentralrechner im Auto läuft. Ethische Fragen müssen also schon während ihrer Entstehung, lange vor dem eigentlichen Einsatz beantwortet werden.

Dürfen Maschinen entscheiden?

Mancher Science-Fiction-Film basiert auf der Vorstellung, eine Künstliche Intelligenz könne ein Eigenleben entwickeln, eigene Entscheidungen treffen und sich womöglich gegen ihren Schöpfer wenden. Bei autonomen Pkw (wie bei allen anderen Anwendungen) ist das ausgeschlossen: Sobald die Software in einem Auto eingesetzt wird, entwickelt sie sich nicht mehr selbstständig weiter, sondern muss, ähnlich wie bei einem normalen Computer, mit einem Update aktualisiert werden.

Doch auch abseits solcher Horror-Visionen gibt es Diskussionsbedarf. In den vergangenen Jahren entwickelte deshalb eine Ethikkommission, in der auch der ADAC vertreten war, Leitlinien* für autonome Fahrzeuge.

Zunächst hielt das Gremium fest, dass automatisierte und vernetzte Pkw ethisch nur dann vertretbar seien, wenn die Systeme weniger Unfälle verursachen als menschliche Fahrer. Auslegung und Programmierung der Fahrzeuge müssen daher einer erheblichen Steigerung der Verkehrssicherheit dienen. Die Steuerungssysteme müssen auf defensive und vorausschauende Fahrweise programmiert sein. 

Menschenleben haben Vorrang

In Gefahrensituationen, so die Expertinnen und Experten weiter, hat der Schutz menschlichen Lebens stets höchste Priorität. In sogenannten Dilemma-Situationen, wenn also alle denkbaren Reaktionen auf eine Gefahr zu einem Unfall führen würden, wären deshalb Tier- oder Sachschäden in Kauf zu nehmen, falls sich so Menschen schützen lassen.

Zwischen Menschen darf die Software dagegen auf keinen Fall unterscheiden. Merkmale wie Alter, Geschlecht, körperliche oder geistige Konstitution dürfen in einer Dilemma-Situation keine Rolle spielen. Und ganz grundsätzlich muss gelten: Ein Menschenleben darf nie gegen ein anderes aufgewogen, niemals ein Menschenleben für das Leben mehrerer anderer geopfert werden.

Um Verantwortung und mögliche Haftung klären zu können, muss in jeder Fahrsituation und für jeden Zeitpunkt geregelt und erkennbar sein, wer für die Fahraufgabe zuständig ist: der Mensch oder der Computer. Wer fährt, muss dokumentiert und gespeichert werden.

Die Kehrseite: So lassen sich theoretisch detaillierte Bewegungsprofile erstellen, ähnlich wie bei einem Smartphone. Der Fahrer, so die Ethikkommission, muss deshalb grundsätzlich selbst über Weitergabe und Verwendung seiner Fahrzeugdaten entscheiden können.

Keine Pflicht zum autonomen Fahren

Auch eine gesetzliche Verpflichtung, automatisierte oder autonome Verkehrssysteme zu nutzen, wurde von der Ethik-Kommission diskutiert – und verworfen. Schließlich würde so die freie Entfaltungsmöglichkeit der Fahrenden deutlich eingeschränkt. Die zu erwartenden Sicherheitspotenziale stünden dazu in keinem Verhältnis.

* Durch Anklicken des Links werden Sie auf eine externe Internetseite weitergeleitet, für deren Inhalte der jeweilige Seitenbetreiber verantwortlich ist.