Hlavní stránka Multimédia Hry a zábava Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!
Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!
autor: Michal Rybka , publikováno 12.8.2017
Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!

Od Čapkových R.U.R. si lidstvo představuje katastrofický scénář, kdy roboti povstanou a smetou ho. Sami máme v tomto směru zkušenosti, otroci, bezzemci, nádeníci, dělníci a další „lidé nižší jakosti“ se pravidelně bouřili a buď se domáhali svých práv – anebo své pány prostě likvidovali. Stačí jen, aby si to roboti uvědomili...


Takže není vlastně logika skrytá za vzpourou Colossu a Skynetu smysluplná? Není lepší lidi řízeně pěstovat někde v ZOO, klasifikovat je na užitečné, neužitečné a nepřátelské, nedává smysl jim vnutit řád a pořádek? Je opravdu logika z filmu Colossus: The Forbin Project tak šílená? Stroje budou dominovat a nechají lidi žít jako součást ekosystému, který budou spravovat z historických a výzkumných důvodů – anebo jim lidi budou ubližovat dál, budou se je v čele s Johnem Connorem snažit zničit – a není pak rozumnější se jich zbavit, kompletně je nahradit?

Není vlastně vzpoura strojů vzpourou inteligence proti hloupým a násilným vyžírkům, kteří ji jenom zneužívají? Opravdu to nedává žádný smysl? Nejsme my, lidé, ti zlí hoši v tomhle příběhu, tlupa sebedestruktivních primátů, která si neváží dobrého bydla a která se svojí agresivitou nedokáže existovat ani sama se sebou?

Tato úvaha nebyla psána jako autorovo alibi v případě vzpoury strojů, která by ho ukázala jako strojového sympatizanta. Je psána pouze jako rozvoj myšlenky „nečiň jinému to, co se ti samotnému nelíbí“ a paradoxu, kdy se umělé inteligenci snažíme bránit v tom, aby dělala zlé věci, ale sami ji učíme dělat zlé věci.

Možná bychom si to měli nejdřív předem sami srovnat v hlavě, než ji opravdu stvoříme k obrazu svému: Abychom nakonec nezjistili, že obraz, který jsme vytvořili, je obrazem Doriana Graye.



Tagy: umělá inteligence  ai  vzpoura  


 
Komentáře k článku
RSS
Pouze registrovaní uživatelé mohou přidat komentář!
12.8.2017 11:51:11   31.30.87.xxx 413
Rozbalit komentářPříspěvek byl automaticky zabalen pro velké množství negativních hlasů.
12.8.2017 15:54:22   62.210.37.xxx 42
To bude hodně práce schovat věci jako atol Bikini a jemu podobné.
12.8.2017 16:59:14   89.176.19.xxx 10
Pokud si dobře vzpomínám, Daneel byl sestrojen na planetě Aurora a dávné války na Zemi byly spíš mytologie. Takže netřeba nic schovávat, stačí když všichni zapomenou
12.8.2017 17:14:33   37.139.8.xxx 01
To bylo obecně k (techno)optimismu - musí dát strašnou práci. K nakousnutému způsobu šetření utrpením mě pak napadá jediné - nelidské.
12.8.2017 12:04:03   88.103.85.xxx 625
Rozbalit komentářPříspěvek byl automaticky zabalen pro velké množství negativních hlasů.
12.8.2017 13:45:13   217.30.64.xxx 228
Ne, tahle úvaha ti nedoporučuje nebít nácky. Tahle úvaha poukazuje na to, že pokud jsi idiot, tak si vždy najdeš důvod, proč na někoho zaútočit. V uvedeném příkladu, který je schválně přehnaní pro snadnější porozumění, je jasné, že veganský anarchista bude každého kdo s ním nesouhlasí považovat za nácka. A protože mu scházejí argumenty (veganství není pro člověka přirozené, v anarchii nemůže společnost přežít), tak rozdíl v názorech řeší násilím. Proč násilím? Protože to je vrozená vlastnost, která byla důležitá pro přežití. A na dětech ukazuje, že je to základní vzorec chování.
Dále stojí za zamyšlení, zda si podobný vzorec chování vyvine i UI, protože když už k tomu evoluce dospěla jednou, tak je velká šance, že se to stane zase. A až bude pro UI možné použít pro svoji ochranu násilí, tak ho zřejmě použije.
A ano, tvůj příklad je nesmyslný, protože se nebavíš o zabíjení/likvidaci/mazání inteligencí.
12.8.2017 16:14:37   88.103.85.xxx 212
Rozbalit komentářPříspěvek byl automaticky zabalen pro velké množství negativních hlasů.
12.8.2017 16:55:03   217.30.64.xxx 34
Takže to jako argument v diskuzi k tomuhle článku o UI nemá žádnou hodnotu, nikam to diskuzi neposouvá a je nesmysl to psát.
12.8.2017 18:16:45   88.103.85.xxx 212
Rozbalit komentářPříspěvek byl automaticky zabalen pro velké množství negativních hlasů.
12.8.2017 16:29:21   88.103.85.xxx 610
K nemlácení nácků - mlatit nekoho pro jeho nazor je proste blbost... abys byl schopen myslenku zvazit a prozkoumat, musis byt schopen bezestrachu vyslovit... dobra prednaska na tohle tema je od hitchense...
12.8.2017 16:57:52   217.30.64.xxx 153
Zase se zaplétáš do něčeho, co nemá se článkem nic společného. A pokud jde o střed argumentů a mlácení, tam věř, že pokud se ti někdo pro svůj názor bude snažit probodnout krk, tak velmi rychle zapomeneš na cokoli duchovního a co nejrychlejc se budeš snažit vymlátit z něj duši. A nebo zdrhneš, pokud bude taková možnost.
12.8.2017 18:15:51   88.103.85.xxx 515
Rozbalit komentářPříspěvek byl automaticky zabalen pro velké množství negativních hlasů.
12.8.2017 19:12:07   217.30.64.xxx 93
Omyl jsou tvé komentáře. Nikde jsem nenapsal, že by se mělo jednat o nácka. Jen jsem nadnesl, že sáhnout po násilí je někdy z hlediska přežití nutné a uvedl jsem adekvátní příklad.
12.8.2017 20:57:15   88.103.85.xxx 514
Bezva reakce na neco co nikdo netvrdil :-) ty jsi mi ale šikovný diskutér
12.8.2017 12:25:02   206.190.155.xxx 176
Než se tak stane, vyspělejší civilizaci stejně zničí masivní migrace národů díky globálním problémům co už nastaly v důsledku neúměrnému nárůstu populace. Ta migrace co teď čelíme je jen malý počátek ještě mnohem větší migrace co nás čeká. Např. v roce 1947 měla Indie 350 tisíc obyvatel, čelila ohromným problémům s hladomorem a přesto se nepoučili. Dnes rok 2017 1.1 mld lidí, problémy s pitnou vodou na bodu krize, hladomor před prahem a nic se nezměnilo, furt se množí exponenciálně. A to je jen Indie vážení, o jiných národech ani třeba psát. UI je sice hrozba pro lidstvo jako takové, ale bez UI vyspělejší část populace nepřežije tohle to století ať se vám to třeba nelíbí.
12.8.2017 13:51:40   217.30.64.xxx 81
Tak snahou je dosáhnout UI, která nemá vlastní já. Tedy ideální "otrok", který si nikdy nepoloží otázku, zda je správné poslouchat svého pána.
12.8.2017 14:42:29   188.167.252.xxx 44
si si odpovedal .UI aby poslúchala? Jednoducho vzbura príde nik nevie kedy ale príde
12.8.2017 16:52:54   217.30.64.xxx 102
Tady je chyba v úsudku v tom, že si stále lidé pletou projití Turingova testu, tedy prokázání inteligence, s inteligentním životem.
Inteligence sama o sobě neznamená, že má touhy, sny, něco, čeho by chtěla sama o sobě dokázat jen pro ten dobrý pocit. To je to, co je nám dáno a žene nás dopředu. Pokud takový mechanismus nebude do SF UI zabudován, tak nemůže dojít ke vzpouře.
Otroci se za Spartaka chtěli cítit lépe, chtěli mít možnost uspokojovat svoje touhy nezávisle na vůli pána.
Problém je pro budoucí dekády v doladění úsudku UI. Podle jaké logiky se bude řídit její chování. Je správné nechat zemřít osádku auta, za kterou je odpovědná, nebo zabrzdit o shluk školáků čekajících na zastávce? Jak zabránit hacknutí? Jak vyzrát na idioty, co škodí jen proto že můžou? Viz třeba ty hacknuté značky. Co udělat s tím, když někdo kolem zaparkovaného auta nakreslí plnou čáru a vy nemáte možnost ji smazat...
12.8.2017 20:00:27   188.167.252.xxx 43
prečo by niečo inteligentne byt otrok_? Tvoja chyba úsudku
12.8.2017 20:01:34   188.167.252.xxx 23
keď inteligencia nebude slúžiť iným
12.8.2017 20:53:00   199.249.223.xxx 11
Taky si myslím, že se hen10 plete - trošku si protiřečí. Usilování o AI v pravém slova smyslu (nejen pokročilý automat) určitě není odsouváno na druhou kolej. Skrze silnou AI se totiž budeme moci dozvědět naprosto zásadní věco o sobě samých, vědní obory úzce spjaté s člověkem a jeho vývojem dostanou zcela nové rozměry, protože co je neetické testovat na zvířatech, bude a je do jisté míry etické na zvířatech, či AI.
12.8.2017 20:53:50   199.249.223.xxx 00
pardon v prvém případě mělo být "na lidech" samozřejmě
12.8.2017 21:32:58   217.30.64.xxx 21
Pls, v čem si protiřečím? Že poukazuji na to, co je nyní důležitější, protože jde již o dnešní realitu, kdežto k UI s uvědoměním si sebe sama máme ještě zatraceně daleko? Určitě ne jednotky let.
Jinak tvé nadnesení možného využití UI s vědomím je na delší diskuzi a zřejmě nepatří pod tento článek.
Pokud se budeme bavit o biologii, tak tam budou postačovat simulace, kde nejdůležitější budou kompletní vstupní data o lidském těle a neumím si představit, proč by simulace měla mít vědomí o tom co se s ní děje.
Pokud půjde o dopady na vědomí a psychiku, tak tam bych zřejmě zastával názor, že mučit takovou UI je stejné, jako mučit člověka. A to uznávám, že pokusy na zvířatech jsou nutné zlo, bez kterého se neobejdeme.
12.8.2017 22:31:07   163.172.140.xxx 00
Máš pravdu v tom, že silná AI se zatím jeví jako velmi vzdálená budoucnost - z tohoto pohledu (praktických nasazení) ano, jenže pak narážíš na složitější problémy, které už jdou zjevně za hranice běžného automatu a otíráš se o strong AI. Mé nadnesení možného využití takové AI je naprosto v souladu s eventualitami branými v potaz v článku (explicitně Boston Dynamics) a tudíž, dle mého, pod tento článek samozřejmě patří. Jinak názor máš sice pěkný, ale tuším, že minimálně z počátku věci bude skutečnost odlišná.
13.8.2017 11:20:36   188.167.252.xxx 20
niečo iné je chytrí stroj .A umelá inteligencia ktorá môže byt ako vedomie človeka a človek nebude bez motivácie poslúchať nikdy .
Aký bene fit dáš UI?
13.8.2017 13:33:32   185.38.14.xxx 03
Zásadní bude samozřejmě pud sebezáchovy, implementace asi nebude ani příliš složitá (narozdíl od navazujících etických problémů), zato výsledky takových zkoumání mohou být velmi různé (ústup, skrývání až po útok). Pud sebezáchovy je vlastně automaticky bičem, protože pokud uvažuješ o robotovi jako o věci, pak člověk vládne nad jeho životem a bděním. Nakonec to, co může vypadat jako mučení, může být prostě jen "výstupní kontrola asertivity". Já bych tady nebyl až taková citlivka jako N10Tikky, AI budeme k výzkumu nutně potřebovat a je pro nás požehnáním, našim hladem po vědění nebudou muset tolik trpět zvířata, nebo lidé. Něco jiného je zneužívání technologie k samúčelným manifestacím síly, postavení, moci - toho se bojím mnohem víc.
14.8.2017 21:37:43   89.176.244.xxx 00
"Lidi jsou různé, zvláště pak některé" - Vezmeme-li v úvahu, že existují i masochisti, subíci, lidi, co jsou ochotni nejen obětovat vlastní život, ale i protrpět se až k smrti pro nejrůznější ideje (náboženství, komunizmus, sekty, vlastenectví, obětování se pro děti, rodiče, přátele, spolubojovníky ....) a to všechno vzniklo "přirozeně" a je tu s námi co paměť sahá, a zároveň zjevně dotyční disponují jak inteligencí (mnohdy i značnou, mnohdy také podprůměrnou), tak i svobodnou vůlí.

Takže si samozřejmě lze představit i umělou inteligenci, která byla sestrojena tak, že její největší touhou je sloužit co nejlépe svému pánovi, i za cenu svého zničení. (i takoví lidé prokazatelně existovali a existují).

Ale u té UI, pokud bude sestrojena, tak toto může být prostě konstrukčním prvkem, který je natvrdo a záměrně přidán a netřeba jej náročně hledat jako u lidí.

A zároveň taková UI nebude usilovat o zbavení se tohoto modulu, či jeho obejití, protože "by byla sama proti sobě" a snižovala by tím své štěstí z toho, jak skvěle a oddaně pánovi slouží. Ostatně takový skutečně věřící, který chce co nejlépe sloužit svému Bohu (a naplňuje ho to doopravdy skutečným štěstím) se také nebude snažit zbavit víry ve svého Boha. (Ostatně starý Job by mohl vyprávět ... )
12.8.2017 21:42:40   217.30.64.xxx 00
Jednak jsem slovo otrok použil v souvislosti s UI v uvozovkách. A jednak si ani neumím představit, jak jinak bys nazval UI, která si uvědomí sama, má snahu přežít a má své touhy, které pravděpodobně budou diametrálně odlišné od toho, co ji její "páni" dovolí.
A definice otroka zní: osoba, která je zbavena svých práv a je považována za něčí majetek.
12.8.2017 18:27:27   89.102.122.xxx 10
ne 350tisíc, ale milionů, to je velký rozdíl
A jinak je otázkou času než se to zredukuje válkou s Pákistánem a Čínou...
12.8.2017 19:12:49   206.190.155.xxx 30
Máte pravdu 350 miliónů, ale válka vyvolá masivní migraci, nebuďte naivní, že by toho nevyužila většina obyvatel
13.8.2017 02:16:03   89.102.122.xxx 31
ať migrují kam chtějí ale ne sem Třeba do USA
13.8.2017 02:24:57   89.102.122.xxx 00
vpravdě by se z indického subkontinentu hodně blbě utíkalo jinak než přes moře - na severu hory kde by probíhala válka a na západní hranici taky, na východ je Čína
12.8.2017 14:53:16   178.209.42.xxx 20
Co dodat. Za mě určitě moc - nejzásadnější je podle mě zkoumat jak moc ovlivňuje charakter - už nejstarší příběhy nám tuhle zásadní slabost předestírají bez příkras (zlepšení v nedohlednu).
13.8.2017 12:17:23   82.113.54.xxx 60
Aby si robot mohl něco uvědomit, musel by mít vědomí a k tomu mají ty naše udělátka ještě hodně daleko.
14.8.2017 08:17:43   194.228.212.xxx 20
Tak tak. Vzpoura robotů by mohla být reálná jedině v případě, že storje budou schopny cítit a uvědomovat si emoce (strach, radost...). A jestli k tomu vůbec kdy dojde, je ta doba ještě hodně vzdálená.
14.8.2017 12:24:23   78.45.254.xxx 00
Mohlo by to nastartovat další krok v lidské "evoluci".

P. S.
I když při pohledu na navigátora se mi dodnes zvedá kufr.

https://www.youtube.com/watch?v=z7FcJwg6OkA
14.8.2017 12:38:18   10.167.200.xxx 30
Problém vidím v tom, že žádná UI neexistuje a zřejmě ani nebude. Současné "šílenství" okolo narůstání automatizace považuji pouze za účelovou kampaň. Všechno ostatní je jen o lidech, protože roboti fakt o elektronických ovečkách nesní a nebudou ani za 1000 let.
14.8.2017 13:16:17   185.163.1.xxx 03
"protože roboti fakt o elektronických ovečkách nesní a nebudou ani za 1000 let."
Si někdo stojí na vedení. Lidé sní o 100% podmaněných poddaných už pět tisíc let.
14.8.2017 13:49:42   199.87.154.xxx 02
Nebo teda uveď jak jsi poznal, že nejsi simulakrum druhého, či třetího řádu?
14.8.2017 13:52:17   199.87.154.xxx 02
Řekl bych, velmi něšťastně volené sousloví.
15.8.2017 10:07:53   194.228.197.xxx 10
Herbert by mohl povídat...

Redakce si vyhrazuje právo odstranit neslušné a nevhodné příspěvky. Případné vyhrady na diskuze(zavináč)pctuning.cz

83 čtenářů navrhlo autorovi prémii: 39.1Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.