Největší problém obecné AI: Co s načatou existencí? | Kapitola 5
Seznam kapitol
Když se řeší otázky umělé inteligence, obvykle se zabýváme věcmi jako jak ji udělat, kdy tu bude, co pro nás bude znamenat a jestli to pro nás není ohrožení. Obecná inteligence má ale jeden gigantický problém: Totiž otázku smyslu vlastní existence. Všichni máme problém se smyslem vlastní existence, jenomže u AI je to mnohem horší.
Je extrémně zákeřné domnívat se, že základem inteligence může být optimalizace. Optimalizace je metoda, která vám pomůže se rozhodnout, ale smysl toho rozhodnutí je mimo ni, je přímo v té úloze. Je to opět jenom nástroj. Extrémní formou optimalizace je zjištění, že protože nic nemá smysl, je neexistence lepší než existence.
Teď se nad tím kriticky zamyslete: Když nebudete existovat, nemusíte platit činži ani hypotéku, tudíž nemusíte pracovat a platit daně. V případě vaší neexistence je odpovědí na náročnost všech úkolů nula. Spousta lidí se válí v posteli, protože to je jednodušší než činnost – a teď si vezměte, že optimalizace vlastně říká, že nic nedělat a neexistovat je optimálnější a navíc jednodušší. To je doslova a do písmene sebevražedná logika, která říká, že neexistence je odpovědí na všechny otázky, protože v ní neexistují žádné otázky.
Připadá vám to šílené? To asi neznáte buddhistický koncept nirvány, což je v podstatě forma neexistence. Anebo jste nikdy neslyšeli o antinatalistech, což jsou lidé, kteří věří, že jediný způsob jak řešit světové problémy je vymřít.
Anebo o asi miliardě různých apokalyptických hnutí, které věří, že nejlepším řešením pro svět je jeho zničení. Ano, můžete se tomu smát, ale myšlenka, že neexistence je lepší než existence, krouží kolem nás celé věky – a to nás příroda vybavila opravdu setsakra silným balíkem motivačního firmware. A teď si představte, že vytvoříme inteligenci, která je dobrá ve vědě, vidí svět jako Rick - ale nemá žádné centrum slasti, které by si mohla stimulovat elektřinou anebo chlastem.
Ještě máte pocit, že depresivní robot Marvin je nereálný a komický koncept? Co když je to tak, že ve skutečnosti jenom náš hédonismus, naše představa, že se večer nacpeme a zažijeme orgasmus, nám brání v tom, že vydáme po jeho myšlenkové trajektorii? Nejsou na tom o mnoho lépe dveře kosmické lodi, které mají orgasmus pokaždé, když se otevřou a cítí radost z dobře provedené práce?
Ve skutečnosti ale existuje jeden zajímavý pohled na temnou a depresivní realitu i pro superinteligentní inteligenci, která nenajde potěšení ani v jídle, ani ve stimulaci svých výběžků. Jmenuje se to optimistický nihilismus a skvěle to vysvětluje video z kanálu Kurzgesagt – In a Nutshell: Optimistic Nihilism.
Komentáře naleznete na konci poslední kapitoly.
