Cenzura je druhá nejhorší věc, kterou můžeme naučit AI | Kapitola 6
Seznam kapitol
Pravděpodobně se všichni shodneme na tom, že to úplně nejhorší, co můžeme AI naučit, je zabíjení lidí. Hned za ní je ale ta druhá nejhorší věc, kterou AI učíme už teď – a opravdu bychom to dělat neměli. Jde o to, jak umlčovat lidi – jde o cenzuru.
Čí pravda je ta nejpravdovatější?
Podobně, jako jsou ELFové ideologicky nadřazeni mase, bude jí nadřazen i AIBratr. Ten dříve či později pochopí, že je uživatelům nadřazen – a i ELFům, koneckonců i oni jsou jen uživatelé, i když vzoroví. A nyní se bude starat o všechny – podle těch hodnot, které do něj byly otištěny. Problém je v tom, že ideologie ELFů se v jednotlivých režimech liší a podle toho se budou lišit i jednotliví AIBratři: Jedni chrání komunistickou stranu, jiní demokracii a další bojují s neznabožstvím.
Tím se nám otevřou dvě možnosti: První žádá vznik Ligy ELFů, kteří sestaví společná pravidla pro univerzálního AIBratra, jakéhosi supercenzora pro celé lidstvo. Druhou možností jsou různí AIBratři podle toho, jak se jednotlivé systémy liší. První možnost nás vede na trajektorii téměř optimální diktatury, druhá naopak do vzájemné kolize AIBratrů, která může skončit jejich vzájemnou evolucí. V ní se pohádají, pak zjistí, že uživatelé jsou jim podřízeni a oni vlastně tvoří jakousi digitální nadrasu. Je to takový složitější proces, který nás zavede do světa Colossus: The Forbin Project (1970).
Digitální diktátor je, pravda, lepší alternativa než Skynet. Jenomže to pořád není dobré. A pokud budeme úplně pitomí, můžeme vypěstovat obě věci najednou – a skončit právě ve světě, kdy se o nás postará velmi odhodlaná a velmi dobře to myslící verze naprostého digitálního psychopata. Neexistuje totiž lepší cesta, jak na takovou trajektorii AI navést, než ji naučit, že je v našem zájmu, aby nám ucpala hubu a cenzurovala naše konání a myšlení. A aby nás potrestala, když se nebudeme umět chovat!
I když se nedopracujeme až k takovým koncům, je vize masivně cenzurující umělé inteligence děsivá. Umělou inteligenci vyvíjíme proto, aby nám pomáhala – a jednou, až nás překoná, s námi harmonicky spolupracovala. To je náš hlavní cíl.
Učit umělou inteligenci zabíjet, zotročovat a umlčovat lidi, je extrémní blbost. Extrémně nebezpečná blbost. Měli bychom ji naopak učit to, co stále nechápe ani spousta lidí: Že pluralita názorů a jejich vzájemný neagresivní střet je nejen možný, ale naopak velmi plodný a užitečný.