Hlavní stránka Hardware Sítě a Internet Otrokářství: Co to bylo a co znamená pro budoucnost?
Otrokářství: Co to bylo a co znamená pro budoucnost?
autor: Michal Rybka , publikováno 14.6.2020
Otrokářství: Co to bylo a co znamená pro budoucnost?

Většina civilizací minulosti v nějaké míře využívala nedobrovolné práce otroků, nevolníků či válečných zajatců. Blíží se ale doba, kdy budeme do práce nutit semiinteligentní a nebo inteligentní stroje. Přijde moderní otrokářství? A vzbouří se proti nám někdy roboti?


Zákony na ochranu robotů

Vyhnu se otázce autonomních zbraňových systémů, o těch jsem přesvědčen, že by neměly existovat vůbec a nebo jen velmi omezeně. O jejich použití by měl vždycky rozhodovat člověk, protože následky omylu jsou dost často fatální i dnes.

Ale i tak je se objevují složitější otázky, než se zdá. Řekněme, že se realizuje nějaká velmi utopická verze a vznikne komplexní úprava, která bude řešit stroje obecně. I když jsou stroje i dnes věc, existují určitá omezení, například je musíte vyhazovat do elektroodpadu. To už omezuje vaše práva nakládat s nimi, i když se to řeší spíš symbolicky.

Pak můžeme mít komplexní stroje s vědomím, které mohou mít práva jako zvířata: Smíte je používat, ale ne zneužívat. A pak je magický limit lidské ekvivalence. Řekněme, že ho dosáhneme a možná přesáhneme – a optimisticky řekněme, že budou mít status subjektu. Nemusí mít nutně všechna lidská práva, protože to by si majitelé továren mohli vyrábět voliče, ale řekněme, že jim přiznáme způsobilost k právním aktům a zodpovědnost za jejich činy.

I tak se ale mohou objevit otázky, které zatím neřešíme. Co když budeme úmyslně dělat stroje, které jsou „sub-vědomé“ a budeme bránit emergenci jejich vědomí? Máme ekonomický zájem na tom, aby otroci i nadále zůstaly otroky a neměli tu kvalitu, která je osvobodí a učiní je subjektem ochrany vyššího stupně.

Co když úmyslně tuto věc omezíme? Trochu se to podobá tomu, jako bychom vyvinuli zvířata bez schopnosti vnímat bolest (což nemusí být ani tak složité) a potom bychom argumentovali, že protože necítí bolest, není je třeba chránit před krutostí. A naopak: Je vůbec možné udělat autonomní androidy tak, aby „nedostávali informace o místě a rozsahu poškození“, jak to charakterizoval Terminátor? Bolest je důležitá, jak ukazují životy pacientů s periferní neuropatií.

Takže... je etické navrhovat stroje tak, že jim budeme technickými prostředky bránit v možnosti naplnit jejich práva? Nepodobá se to otrokům, které láduje někdo drogami, aby nekladli odpor? A nebo: Je etické jim dávat killswitch? Není to podobné dystopiím, kde mají vězni na krku náramek, který může vybuchnout? A i když to neuděláme... je etické dávat našim výtvorům schopnost cítit bolest a trpět?

Příroda si žádné etické otázky při naší konstrukci nekladla. Jí je to putna, zkouší se všechno a co funguje, to zůstane. Když někdo v důsledku mutace trpí, smolík, přírodě je to fuk. Nastupující inteligence je ale umělá, cíleně navržená, takže jsme do značné míry zodpovědní za to, co se z ní stane. V naší tvorbě rozhodně je úmysl, takže můžeme svůj výtvor sami na sebe naštvat. Spousta lidí je opravdu naštvaná na Boha – a to ani nevíme, jestli existuje. Pokud se na nás podobně naštve AI, může mít zcela racionální důvody.

Římská historie nás učí, že bychom neměli situaci s novými digitálními sluhy hrotit, i Římané sami z nich měli i přes drakonicky potlačené vzpoury opravdové obavy. Ale římská historie upozorňuje i na to, že pokud vytěsníme levnými pracovními silami lidi na okraj, musíme se o ně postarat. To právě řešila už zmíněná patronáž, která nabídla svobodným římským občanům „chléb a hry“. My jim nabízíme dávky a televizi, což se v budoucnosti změní, ale základní problém zůstává: Co s nově nadbytečnými lidmi?



 
Komentáře naleznete na konci poslední kapitoly.
77 čtenářů navrhlo autorovi prémii: 33.7Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.