Mají roboauta zabíjet ve jménu většího blaha lidstva? | Kapitola 4

Jádro úvahy je v úvaze, zda musíme v pravidlech setrvat za každou cenu anebo zda si můžeme dovolit luxus zpochybnit absolutní normy v duchu „lepších voleb pro většinu“. Etický kalkulus znamená nahrazení absolutních morálních autorit svého druhu svobodnou volbou, která nebere příkaz jako absolutní příkaz a i vrozené instinkty pro sebezachování jsou jenom silným popudem, ale ne rozhodujícím faktorem. Toto zdánlivě chladné uvažování vedlo kdysi k psychologické teorii „vyšších emocí“, tedy takových, kdy je jedinec ochoten k sebeobětování ve prospěch většího cíle.

Nejde jenom o pustou teorii: Voják, který se vrhá na granát, aby zachránil spolubojovníky, i když tím efektivně páchá sebevraždu, uvažuje v rámci etického kalkulu. Rodič, který se vzdává posledního jídla, aby se pokusil zachránit svoje dítě, i když tím efektivně páchá sebevraždu, jedná v rámci etického kalkulu. Je to extrémní volba, ale emočně velice silná volba. Nemůžu z paměti vyhnat záběr ze seriálu „Neznámá válka“, který ukazoval náhrobek na leningradském hřbitově, na kterém ležel kus chleba a papír, na kterém bylo napsáno „Mami, tady ti vracím ten krajíc chleba, který jsi mi tehdy dala.“ Úspěšná volba zoufalé matky nakonec dovolila dítěti přežít, to je tour de force, pokud jde o demonstraci etického kalkulu, mohu-li říct. Není to však univerzální volba, nezřídka se v historii setkáme s rozhodnutím přesně opačným, kdy rodiče zabíjí některé svoje děti, aby přežily ty ostatní.

Přesně o tom je snaha podchytit rozhodování v rámci experimentů jako je Moral Machine – o snaze zamyslet se a řešit komplikovaná etická dilemata. Což, realisticky vzato, bude muset umělá inteligence někdy řešit. Dříve nebo později se ocitne v situaci, kdy bude mít na výběr jenom samé špatné volby a nějak se s nimi bude muset poprat.

Etický kalkulus má více dimenzí, než by se mohlo zdát, o čemž nás přesvědčuje brilantní přednáška „Three principles for creating safer AI“. Ta rozvíjí představu o různých formách užitku, kupříkladu o tom, že může nastat dilema, kdy se domácí robot má za úkol postarat o večeři pro děti, leč lednička je prázdná. Jediné, co je doma, je kočka – a „robot musí porovnat sentimentální hodnotu domácího mazlíčka s jeho nutriční hodnotou“.

Což vypadá jako vtip, ale úvaha nabere zcela jinou dimenzi, když si představíme nějakou katastrofu, kdy opravdu může nutriční hodnota domácích mazlíčků převážit jejich sentimentální hodnotu.