Hlavní stránka Multimédia Hry a zábava Mají roboauta zabíjet ve jménu většího blaha lidstva?
Mají roboauta zabíjet ve jménu většího blaha lidstva?
autor: Michal Rybka , publikováno 30.6.2017
Mají roboauta zabíjet ve jménu většího blaha lidstva?

Automatická auta se blíží a s nimi se vynořila řada obskurních testů, díky nimž mohou youtubeři přežít další týdny. Jsou založené na komplikovaných rozhodováních: Je lepší zabít posádku robovozu, nebo napálit do autobusu a ohrozit jeho pasažéry? Smést děti ze školky, anebo důchodkyně pomáhající v charitě? Jaký smysl ale mají taková dilemata?


Jádro úvahy je v úvaze, zda musíme v pravidlech setrvat za každou cenu anebo zda si můžeme dovolit luxus zpochybnit absolutní normy v duchu „lepších voleb pro většinu“. Etický kalkulus znamená nahrazení absolutních morálních autorit svého druhu svobodnou volbou, která nebere příkaz jako absolutní příkaz a i vrozené instinkty pro sebezachování jsou jenom silným popudem, ale ne rozhodujícím faktorem. Toto zdánlivě chladné uvažování vedlo kdysi k psychologické teorii „vyšších emocí“, tedy takových, kdy je jedinec ochoten k sebeobětování ve prospěch většího cíle.

Nejde jenom o pustou teorii: Voják, který se vrhá na granát, aby zachránil spolubojovníky, i když tím efektivně páchá sebevraždu, uvažuje v rámci etického kalkulu. Rodič, který se vzdává posledního jídla, aby se pokusil zachránit svoje dítě, i když tím efektivně páchá sebevraždu, jedná v rámci etického kalkulu. Je to extrémní volba, ale emočně velice silná volba. Nemůžu z paměti vyhnat záběr ze seriálu „Neznámá válka“, který ukazoval náhrobek na leningradském hřbitově, na kterém ležel kus chleba a papír, na kterém bylo napsáno „Mami, tady ti vracím ten krajíc chleba, který jsi mi tehdy dala.“ Úspěšná volba zoufalé matky nakonec dovolila dítěti přežít, to je tour de force, pokud jde o demonstraci etického kalkulu, mohu-li říct. Není to však univerzální volba, nezřídka se v historii setkáme s rozhodnutím přesně opačným, kdy rodiče zabíjí některé svoje děti, aby přežily ty ostatní.

Přesně o tom je snaha podchytit rozhodování v rámci experimentů jako je Moral Machine – o snaze zamyslet se a řešit komplikovaná etická dilemata. Což, realisticky vzato, bude muset umělá inteligence někdy řešit. Dříve nebo později se ocitne v situaci, kdy bude mít na výběr jenom samé špatné volby a nějak se s nimi bude muset poprat.

Etický kalkulus má více dimenzí, než by se mohlo zdát, o čemž nás přesvědčuje brilantní přednáška „Three principles for creating safer AI“. Ta rozvíjí představu o různých formách užitku, kupříkladu o tom, že může nastat dilema, kdy se domácí robot má za úkol postarat o večeři pro děti, leč lednička je prázdná. Jediné, co je doma, je kočka – a „robot musí porovnat sentimentální hodnotu domácího mazlíčka s jeho nutriční hodnotou“.

Což vypadá jako vtip, ale úvaha nabere zcela jinou dimenzi, když si představíme nějakou katastrofu, kdy opravdu může nutriční hodnota domácích mazlíčků převážit jejich sentimentální hodnotu.



 
Komentáře naleznete na konci poslední kapitoly.
73 čtenářů navrhlo autorovi prémii: 34.1Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.