Karolína Drachovská: Morální dilema samořiditelného automobilu
Každé vozidlo se zabudovanými prvky vysoké či plné automatizace (stupeň autonomie řízení 4 a 5) bude vykovávat kompletní akt řízení v zásadě bez jakéhokoliv zásahu člověka. Chtě, nechtě se tak nevyhneme okamžiku, kdy bude nutné příslušnému algoritmu předdefinovat, jak se má v konkrétní situaci zachovat, a to i pro případ kolize. Upřednostní vozidlo v krizové situaci život osob jdoucích po chodníku, či těch jedoucích ve vozidle? Vybere řešení A, nebo B? A máme vůbec mandát k tomu, abychom předem stanovili, který lidský život má v dané situaci dostat přednost?
Trend rozvoje samořiditelných vozidel je zřejmý. Prognózy počítají s plnou dostupností služby podmíněné automatizace řízení do roku 2025, přičemž první poloautonomní automobily by se na silnicích mohly objevit již v průběhu roku 2020. Příznivci tohoto pokroku jako hlavní přínosy autonomních technologií v dopravě deklarují zejména zvýšení bezpečnosti silničního provozu (dle odhadů je selhání lidského faktoru v určité míře příčinou až 95 % kolizí na silnicích, 75 % dopravních nehod je pak způsobeno výlučně lidskou chybou, aktuální predikce však v konečném důsledku do roku 2050 očekávají dosažení tzv. „vize nula” jako stavu, kdy na evropských silnicích nebude docházet k žádným smrtelným nehodám), čistší životní prostředí, hospodářský růst či zlepšení mobility obyvatel. Avšak aby tyto technologie mohly dostát všem přínosům, musí mít společnost celou situaci pod kontrolou již od samého počátku.
K tomu, abychom neztratili krok s předními hráči automobilového trhu (předními hráči dopravního trhu zde rozumím zejména Japonsko a USA, které již na úpravách svých právních řádů intenzivně pracují) a mohli vůbec začít samořiditelná vozidla v reálném provozu používat, je nutno vyřešit klíčové otázky pojící se s touto novou, doposud platným právem přesně nepopsanou oblastí. De lege lata představuje první tuzemskou překážku zákon č. 361/2000 Sb., o provozu na pozemních komunikacích, v podobě legálního vymezení pojmu řidič, zákonodárce musí svou pozornost upnout rovněž k uzpůsobení pravidel silničního provozu a infrastruktury, vymezení základních technických požadavků, úpravě odpovědnostních vztahů a další klíčovou právně-relevantní otázkou je i problematika nakládání s daty, kterými budou vozidla vybavena. Úvahy nad těmito oblastmi však nebudou protentokrát předmětem mého zamyšlení. Rozhodla jsem dnes namísto zkoumání pravidel právních zabřednout do vod pravidel etiky, neboť vzájemný průnik odpovědnosti právní a odpovědnosti morální by měl být v demokratické společnosti co nejúplnější. (K tomu srov. ŠVESTKA, J. In: DVOŘÁK, J., ŠVESTKA, J. a kol. Občanské právo hmotné 1 – Díl první: Obecná část. 2. vyd. Praha: Wolters Kluwer, 2016, s. 74-75.)
Jak již bylo předestřeno na předchozích řádcích, conditio sine qua non prvotního uvedení vozidel vybavených automatizačními prvky řízení do reálného provozu je rozšíření legální definice pojmu řidič, jakož i úprava městské infrastruktury a uzpůsobení extravilánu, aby vozidla mohla sbírat a zpracovávat okolní data. S tím si však vystačíme toliko v počátcích autonomie, tedy ve fázi, kdy bude ve vozidle stále nutno přítomnosti řidiče člověka, který v případě potřeby převezme od „robota“ řízení do svých rukou a zasáhne podle potřeby. Avšak ve chvíli, kdy tento lidský faktor na pozici řidiče odpadne, až budou vozidla schopna plného samořízení, bude nezbytně nutné vybavit vozidlo i takovými daty, která určí, zda v případě kolize upřednostnit život kolemjdoucích, či posádky. V případě řidiče člověka, se může tento rozhodnout strhnout řízení, pustit volant a přenechat situaci osudu … Jenže ve chvíli, kdy bude řídit algoritmus, tento prvek náhody odpadá. Auto zareaguje tak, jak bude mít ve vstupních datech předdefinováno. A právě zde se skrývá ono „morální dilema“. Problém je zakopaný v tom, že autonomní vozidlo v sobě skutečně předem nadefinovaný algoritmus, který určí, koho zachránit, mít musí - ale kladu si otázku, kdo má mandát něco takového rozhodnout?
Na tomto místě se nabízí srovnání s tzv. tramvajovým dilematem, se kterým poprvé přišla britská filozofka Philippa R. Foot. Jde o známý myšlenkový experiment, který simuluje okamžik nevyhnutelné kolize neovladatelné tramvaje, kdy se člověk, který je kolizi přítomný, musí v daném okamžiku rozhodnout, čí život zachrání, a koho naopak „obětuje”. Dotazovaný má možnost neudělat nic, tedy nechat tramvaj jet v hlavním směru, čímž bude usmrceno 5 lidí, nebo může přehodit výhybku a těchto 5 lidí zachránit. Tím však dojde k usmrcení jedné osoby stojící na trati vedlejší. Sic jde o 1 člověka, tedy početně menší ztrátu, je to osoba, jež by se původně, kdyby nedošlo k přesměrování tramvaje, střetu vyhnula, neboť se nenachází v přímém směru jízdy. Tento test byl v základní variantě představen na konci 60. let minulého století. Následně došlo k vytvoření dalších variant, které modifikují základní skutkovou situaci, podstata je však stále stejná. Neexistuje správné řešení, každý se rozhoduje dle vlastních morálních preferencí.
Byť bylo toto etické cvičení poprvé představeno před více než 50 lety, testu obdobného typu se dnes před zahájením provozu musíme podle mého přesvědčení podrobit obligatorně. Já osobně však vnímám jako velmi problematické, aby někdo dopředu systému určil, že má upřednostnit např. život řidiče ve vozidle, před chodcem. Ergo stanovil, že vyšší váhu má život osob na palubě automobilu, eventuálně vážil mezi věkem, pohlavím či vzděláním potenciální oběti. Každý lidský život má stejnou váhu a nikdo z nás nedisponuje oprávněním rozhodnout o životě a smrti druhých. Já osobně uspokojivou odpověď na vyvstávající otázky etické roviny neznám, nechť si ale každý zkusí obtížnou roli „soudce a kata” sám. Změnilo by se naše rozhodování, kdyby některým z aktérů byl někdo z nás či osoba našemu srdci blízká?
Ambicí tohoto zamyšlení bylo spíše nadnést téma do diskuze (nejen) v odborných kruzích na téma tohoto „dilematu samořiditelného automobilu”, protože k tomu, abychom alespoň částečně zmírnili negativní etický dopad kolize robota, bude nutné, aby přijaté závěr odrážely všeobecný společenský konsenzus. I když se pro dohlednou dobu (horizont cca 10 let) pracuje v zásadě jen s vozidly poloautonomními, za 20 až 30 let jsou v reálném provozu očekávána už i vozidla zcela na lidské součinnosti nezávislá. A proto si dovoluji apelovat, aby i tato etická rovina byla co nejdříve (vy)řešena a promítnuta do podoby odrážející vůli demokratické většiny při pohledu na věc. Tedy pokud při zvážení těchto okolností vůbec něco takového jako plně samořiditelný vůz (zde mířím na skutečně plně autonomní vozidla stupně automatizace 5, kdy je veškerý proces jízdy nezávislý na interakci s řidičem - člověk jako řidič přestává existovat, je toliko příjemcem služby samořiditelného vozidla a v zásadě jediným jeho úkolem je zadat cíl cesty) fungující s nulovou interakcí člověka chceme…
Etické aspekty umělé inteligence obecně jsou v těchto dnech rovněž předmětem zkoumání předních odborníků na úrovni Evropská unie, konkrétně se touto problematikou zabývá odborná skupina na vysoké úrovni pro umělou inteligenci (High-Level Expert Group on AI), která vypracovala dokument s názvem Návrh etických pokynů pro zajištění důvěryhodnosti UI. Konzultační proces byl ukončen 1. 2. 2019, přičemž revidované znění pokynů bylo předloženo v dubnu 2019. Etické pokyny pro důvěryhodnou umělou inteligenci viz zde.
---
Autorka je studentkou 2. ročníku magisterského studia na Právnické fakultě Univerzity Karlovy.