Hlavní stránka Multimédia Hry a zábava Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!
Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!
autor: Michal Rybka , publikováno 12.8.2017
Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!

Od Čapkových R.U.R. si lidstvo představuje katastrofický scénář, kdy roboti povstanou a smetou ho. Sami máme v tomto směru zkušenosti, otroci, bezzemci, nádeníci, dělníci a další „lidé nižší jakosti“ se pravidelně bouřili a buď se domáhali svých práv – anebo své pány prostě likvidovali. Stačí jen, aby si to roboti uvědomili...


To, co bylo na experimentu zajímavé, byla interview s dětmi, kterých se výzkumníci ptali na jejich chování. Přestože děti věděly, že to je jenom stroj, polovina z nich řekla, že si myslí, že to, co robotovi dělaly, bylo pro něj nepříjemné a bolestivé, ale ani tohle přesvědčení jim nezabránilo v jejich chování.

Během času se dětská šikana robota zhoršovala, takže vývojáři upravili jeho algoritmy tak, aby unikal dětským gangům. Zjednodušeně řešeno začali analyzovat výšku postavy osob kolem – pokud kolem bylo větší množství postav menších než metr čtyřicet, robot začal automaticky unikat k vyšším postavám, protože se předpokládalo, že přítomnost dospělých dětské šikanátory zpacifikuje.

Mezi lidmi je sice většina hodných, nebo alespoň neutrálních, ale někteří z nich jsou prostě zmrdi, jak ukázal například osud „cestujícího sociálního robota“ hitchBOT. Byl to pasivní robot, který „stopoval“ a spoléhal na to, že ho lidi odvezou autem o kus dál, kde ho vyloží a robot si stopne dalšího. Robot uměl konverzovat, dělal ze svých cest fotky a postoval je na Facebook. Úspěšně procestoval Kanadu, Nizozemí a Německo, aby byl v roce 2015 během cestování po USA zničen po dvou týdnech kdesi u Filadelfie.

Mám dojem, že ať kdokoliv vytvoří cokoliv, vždycky se najde někdo, kdo to rád hackne a udělá něco ošklivého jenom proto, že to jde. Američtí výzkumníci například zjistili, že pokud znáte algoritmus pro počítačové vidění, můžete jednoduše a poměrně nenápadně upravit značky tak, že vypadají jen jako otagované grafitti, ale strojové vidění je interpretuje naprosto jinak. Nebezpečně jinak, například můžete upravit značku STOP tak, že ji automobil přečte jako „45 mil za hodinu“.

Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!

Značky použité k úspěšnému útoku na strojové učení z práce „Robust Physical-World Attacks on Machine Learning Models

To, že automatické řízení vletí do stopky sedmdesátkou, může být rafinovaný pokus o vraždu, ale taky strašně zábavná legrace vypatlaných jedinců, kteří se zatím baví u low-tech debilit, jako je vyhazování autobusů do vzduchu, házení kamení na auta z mostů či pokusy o vykolejení vlaku. Tak proč nešikanovat umělou inteligenci v autech? Lehká úprava značky a sledování následků v médiích je bezpečnější, než kradení zajišťovacího zařízení pod napětím anebo nějaká super youtube zábavka, kterou si jako správní bezmozci natáčíte, abyste tak pořídili usvědčující materiál proti sobě.



 
Komentáře naleznete na konci poslední kapitoly.
83 čtenářů navrhlo autorovi prémii: 39.1Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.