Mají roboauta zabíjet ve jménu většího blaha lidstva? | Kapitola 2

Dilema, kdy má člověk pravdu a kdy stroj a kdo je za co zodpovědný, je komplikovaná. Zatím platí premisa, že za auto odpovídá stále řidič a má právo přerušit jakýkoliv manévr, o který se autopilot pokouší. Za vůz je zodpovědný řidič i ve chvíli, i když řídí autopilot, což je nutnost daná současnou legislativou. Auto bez řidiče zatím neexistuje, a tak je to na řidiči vždy, asisty představují jenom jakousi doplňkovou bezpečnostní funkci, jako je třeba ABS. Tím, že je aktivujete, souhlasíte s tím, že vám mohou zasáhnout do řízení, i když jsou stále navržené tak, že je můžete jednoduše potlačit.

Co ale plně automatické vozy? Je za ně zodpovědný pasažér, majitel, výrobce, programátor anebo výrobce komponenty, která selhala? Zcela autonomní řízení není zcela na pořadu dne, zatím se řeší bagatelní otázky jako detekce selhání senzorů, vzájemná komunikace mezi vozidly, nahlašování poruch na dispečink – zkrátka relativně jednoduché věci, kdy auto zjistí, že se s ním něco děje a snaží se minimalizovat riziko pro ostatní účastníky provozu. Je tedy možné, že zpočátku bude plně autonomní jízda povolena jen na vyhrazených komunikacích, kde ani chodec, ani jelen nemá co dělat, vozy nesmí jezdit v protisměru, celou komunikaci monitoruje a kontroluje dispečink řízení a celé to je hlavně o plynulosti a detekci a řešení problémů.

Jednoho dne ale robovozy vyrazí někam, kde se budou muset rozhodovat samy a protože mají poměrně přesné informace, zjistí, že před sebou nemají dobrou alternativu a musí se rozhodovat mezi špatnými. O tom je přesně projekt Moral Machine, který ale neslouží k výzkumu strojové etiky, ale spíš k tomu, že průzkumem zjišťuje, jak se rozhoduje ten který člověk. Jde tedy o psychologický test, ne o projekt z oblasti umělé inteligence. Každý si může tento test sám vyzkoušet a pouvažovat nad dilematy, která spíše než co jiného testují jeho etický pohled na věci.

Ostatně i PeeetaaTV své video nazval „Jsem dobrý člověk?“ což svědčí o tom, že velmi dobře pochopil, že tohle není o robotických autech.

Nu, každý může popřemýšlet nad někdy bizarními úvahami typu „Je lepší nechat zhynout posádku vozu tvořenou domácími mazlíčky anebo smést skupinu vágusů, kteří přecházejí na červenou?“ A přitom zjistit, že některé volby vypadají jednoduše, zatímco jen trochu poupravená situace už tak jednoznačná není.

Je to ale zábavka pro vás, ne pro konstruktéry, kteří podobné problémy budou řešit. Ti mají celou řadu technologií, mezi které se vkrádají i tak obskurní obory, jako etický kalkulus či teorie užitku. Nejsou to nové věci, ale doposud byly považovány za zcela teoretické, spíše jenom matematickou formalizaci filozofických úvah. Stroje ale potřebují podobné mechanismy pro to, aby dokázaly dělat etické úvahy.