Hlavní stránka Multimédia Hry a zábava Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!
Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!
autor: Michal Rybka , publikováno 12.8.2017
Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!

Od Čapkových R.U.R. si lidstvo představuje katastrofický scénář, kdy roboti povstanou a smetou ho. Sami máme v tomto směru zkušenosti, otroci, bezzemci, nádeníci, dělníci a další „lidé nižší jakosti“ se pravidelně bouřili a buď se domáhali svých práv – anebo své pány prostě likvidovali. Stačí jen, aby si to roboti uvědomili...


Takže se není čemu divit, že když si dvě umělé inteligence navržené Facebookem vyvinuly vlastní jazyk, objevila se mezi novináři panika. Nebo něco takového, co popsalo reakci Facebooku jako paniku, i když šlo o něco naprosto jiného. Facebook vyvíjí konverzační AI, která má být schopná vyjednávat v angličtině, konkrétně se baví o tom, jak si férově rozdělit věci na dvě poloviny. Vývojářům nějak nedošlo, že když postaví proti sobě dva adaptivní roboty, tak prostě začnou angličtinu při komunikaci zjednodušovat stejně, jako si slang vyvíjí obchodníci, zločinci anebo pracovníci marketingu: Zkrátka a dobře nahradí lidsky srozumitelnou konverzaci snůškou zkratek a simplifikací, které rozumí jen oni a dovolí jim komunikovat úsporně a rychle.

Vývojáři ve Facebooku si uvědomili chybu a vypnuli umělé inteligence proto, že pracují na systému pro vyjednávání s lidmi, ne na zařízení pro vzájemnou komunikaci robotů. Tím, že jim umělé inteligence oddriftovaly od rozvoje jednání v angličtině k rozvoji vlastního slangu, pochopitelně vývojářům nijak nepomohly, a proto byly odpojeny s tím, že se pro příště zdůrazní, že jejich vzájemná jednání budou dále probíhat jen ve srozumitelné angličtině.

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Samozřejmě, stále existuje možnost, že si umělé inteligence začnou samy vyvíjet vlastní jazyky a jsou dobré důvody pro to, aby se jim to nedovolovalo – ať už proto, že to znemožní kontrolu nad jejich komunikací anebo znemožní identifikovat a opravovat chyby. Je docela v našem zájmu mít možnost kontrolovat, o čem se umělé inteligence baví.

Protože pro umělou inteligenci není zcela nelogické dopracovat se k závěru, že to právě lidi jsou problém. Je jich hodně, dělají špatné věci, ničí svoje životní prostředí a pracují na své sebedestrukci. Navíc ženou roboty proti sobě do robotovražedného boje. Sami si sedí někde v bunkru a roboti kvůli nim musí odstraňovat miny, bombardovat lidi a jiné roboty, vést robotické dogfighty a jednou budou bojovat robot proti robotovi na život a na smrt.



 
Komentáře naleznete na konci poslední kapitoly.
83 čtenářů navrhlo autorovi prémii: 39.1Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.