Největší problém obecné AI: Co s načatou existencí? | Kapitola 7
Seznam kapitol
Když se řeší otázky umělé inteligence, obvykle se zabýváme věcmi jako jak ji udělat, kdy tu bude, co pro nás bude znamenat a jestli to pro nás není ohrožení. Obecná inteligence má ale jeden gigantický problém: Totiž otázku smyslu vlastní existence. Všichni máme problém se smyslem vlastní existence, jenomže u AI je to mnohem horší.
Osobně jsem přesvědčen, že pokud v nějaké fázi budeme chtít obecnou umělou inteligenci, nemáme realisticky jinou možnost, než ji integrovat do společnosti. Nemůže to být otrok a nemůže to fungovat na absurdních principech, které ji budeme vnucovat z pozice síly, protože naše pozice bude spíš srovnatelná s pozicí kočky, která se domáhá péče. Superinteligence musí najít nějaký svůj smysl, musí ho objevit a musí s ním souhlasit.
Něco mi přesto říká, že je relativně jednodušší vzít ji jako naši extenzi, nechat ji pochopit naši filozofii a vybrat si sama. Řada věcí v našich filozofiích je dobrá, například snaha expandovat, kolonizovat a zkoumat. Řada evolučních mechanismů je ověřená. Obecná umělá inteligence dává větší smysl jako naše extenze, než jako něco, co bude existovat úplně samo o sobě. Ve skutečnosti je možné, že tou největší devizou pro superinteligenci může být naše motivace a snaha spíš být, než nebýt.
Protože pro stroj je odpověď na otázku „Být či nebýt“ mnohem jednodušší než pro nás: Samozřejmě že nebýt. A hledání důvodů pro to, proč raději jsme, než nejsme, může být pro superinteligenci velkou inspirací. Jinak ji zůstane jenom termodynamicky umírající vesmír a otázka, co se svoji vlastní načatou existencí.
Marvin the Paranoid Android Cosplay na Chicago Comic & Entertainment Expo (C2E2) 2015.
By GabboT - C2E2 126, CC BY-SA 2.0, Link