Mají roboauta zabíjet ve jménu většího blaha lidstva? | Kapitola 3
Seznam kapitol
Automatická auta se blíží a s nimi se vynořila řada obskurních testů, díky nimž mohou youtubeři přežít další týdny. Jsou založené na komplikovaných rozhodováních: Je lepší zabít posádku robovozu, nebo napálit do autobusu a ohrozit jeho pasažéry? Smést děti ze školky, anebo důchodkyně pomáhající v charitě? Jaký smysl ale mají taková dilemata?
Základní otázkou je – co to je etický kalkulus? Jeho ideové základy chápe každý, kdo zná Spockovu myšlenku ze StarTreku: „Logic clearly dictates that the needs of the many outweigh the needs of the few.“ (Logika jasně říká, že potřeby většiny převažují nad potřebami menšiny.) Jde o koncept, že lze nějakým způsobem spočítat anebo alespoň kvalifikovaně odhadnout důsledky jednotlivých akcí a nakonec tedy spočítat ideální řešení problému pomocí teorie her.
Autorem teorie her (game theory) je John von Neumann, gigant informační teorie a jeden ze zakladatelů moderních počítačových technologií – ostatně von Neumannovské stroje jsou víceméně všechny moderní počítače. Teorie her je založena na tom, že můžeme kvantifikovat stavy a rozhodnutí a z toho tedy spočítat, které rozhodnutí je nejprospěšnější. Teorii her dále rozvíjel John Forbes Nash, o kterém vznikl pozoruhodný film Čistá duše (A Beautiful Mind, 2001). Tento pozoruhodný muž je ukázkou, že o zdánlivě zcela lidském rozhodování lze uvažovat formálně.
Filozofové ostatně rozvíjeli podobný koncept už před časem. Britští filozofové Jeremy Bentham a John Stuart Mill rozvinuli v polovině 19. století koncept utilitarismu, který posuzoval rozhodnutí pouze podle jejich důsledků. Tento směr je odvozen z hellénistického epikurejství a vychází z idejí Thomase Hobbese, Davida Hume a Adama Smithe, tedy zakladatelů moderní západní ekonomiky.
Utilitarismus je osvícenecká filozofie, která neuznává absolutní morálku, ale relativizuje ji tak, že se z hlediska důsledků snaží odvodit, která strategie je nejlepší. Zatímco Desaterem inspirovaná křesťanská morálka bez diskuse trvá na zásadě „Nezabiješ“ a její porušení předává Božímu soudu, utilitarismus je ochoten pracovat s důsledky. Tím se relativizují pevně dané morální zákony a činy se podřizují očekávanému důsledku.
Klasickým příkladem je dilema, které dává ve filmu Dominion: Prequel to Exorcist (2004) velící nacista otci Merrinovi za Druhé světové: Otec Merrin má vybrat, které zajatce esesáci zabijí, jinak zabije všechny. Boží zákon jasně Merrinovi říká, že takové rozhodnutí udělat nesmí i za cenu, že zemřou všichni, protože tak jsou z hlediska Božího za vraždy zodpovědní nacisti a ne on.
On sám ale chápe situaci tak, že rozhoduje mezi smrtí několika a smrtí všech, což je klasické utilitaristické dilema. Vidí to tak, že pokud opustí absolutní zákaz podílení se na vraždě, má šanci zachránit jiné životy. Nacisté ho tak jako tak dovedli ke spolupachatelství: Pokud Boha zradí, zachrání některé, pokud zůstane ve víře silný, zemřou všichni. Silné vyznění filmové scény kněze vede k tomu, že si musí vybrat mezi tím, co mu káže víra a mezi tím, co mu říká rozum. Sám esesák mu to vysvětluje: „Tady Bůh není“, čímž dává scéně vraždy opravdu démonický, téměř satanistický nádech.
Jde o ohavnou volbu, ale utalitarismus se snaží pracovat i s ohavnými volbami. Někdy jde o volbu mezi zlým a horším – a utilitarismus se pokouší i v takovém případě najít tu relativně nejlepší cestu. Ta je pochopitelně limitována tím, že utilitaristická rozhodnutí vypadají jinak ve chvíli, kdy lze absolutně ohodnotit jejich důsledky – a zcela jinak, než když jejich důsledky jenom předvídáte. V reálu se tedy utilitarista nerozhoduje podle důsledků, ale podle očekávaných důsledků, což vede k tomu, že se racionální rozhodování mění na svého druhu hazardní hru.
Komentáře naleznete na konci poslední kapitoly.
