Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!
i Zdroj: PCTuning.cz
Hry Článek Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi!

Proč přijde vzpoura robotů: Problém nejsou stroje, ale lidi! | Kapitola 2

Michal Rybka

Michal Rybka

12. 8. 2017 03:00 45

Seznam kapitol

1. Nižší bytosti 2. Zvrhlá zábava 3. Netrapte roboty, oni to vidí! 4. Když už to jde mimo naše chápání 5. Filmová škola 6. Inteligencí proti (lidské) hlouposti

Od Čapkových R.U.R. si lidstvo představuje katastrofický scénář, kdy roboti povstanou a smetou ho. Sami máme v tomto směru zkušenosti, otroci, bezzemci, nádeníci, dělníci a další „lidé nižší jakosti“ se pravidelně bouřili a buď se domáhali svých práv – anebo své pány prostě likvidovali. Stačí jen, aby si to roboti uvědomili...

Reklama

To, co bylo na experimentu zajímavé, byla interview s dětmi, kterých se výzkumníci ptali na jejich chování. Přestože děti věděly, že to je jenom stroj, polovina z nich řekla, že si myslí, že to, co robotovi dělaly, bylo pro něj nepříjemné a bolestivé, ale ani tohle přesvědčení jim nezabránilo v jejich chování.

Během času se dětská šikana robota zhoršovala, takže vývojáři upravili jeho algoritmy tak, aby unikal dětským gangům. Zjednodušeně řešeno začali analyzovat výšku postavy osob kolem – pokud kolem bylo větší množství postav menších než metr čtyřicet, robot začal automaticky unikat k vyšším postavám, protože se předpokládalo, že přítomnost dospělých dětské šikanátory zpacifikuje.

Mezi lidmi je sice většina hodných, nebo alespoň neutrálních, ale někteří z nich jsou prostě zmrdi, jak ukázal například osud „cestujícího sociálního robota“ hitchBOT. Byl to pasivní robot, který „stopoval“ a spoléhal na to, že ho lidi odvezou autem o kus dál, kde ho vyloží a robot si stopne dalšího. Robot uměl konverzovat, dělal ze svých cest fotky a postoval je na Facebook. Úspěšně procestoval Kanadu, Nizozemí a Německo, aby byl v roce 2015 během cestování po USA zničen po dvou týdnech kdesi u Filadelfie.

Mám dojem, že ať kdokoliv vytvoří cokoliv, vždycky se najde někdo, kdo to rád hackne a udělá něco ošklivého jenom proto, že to jde. Američtí výzkumníci například zjistili, že pokud znáte algoritmus pro počítačové vidění, můžete jednoduše a poměrně nenápadně upravit značky tak, že vypadají jen jako otagované grafitti, ale strojové vidění je interpretuje naprosto jinak. Nebezpečně jinak, například můžete upravit značku STOP tak, že ji automobil přečte jako „45 mil za hodinu“.

Značky použité k úspěšnému útoku na strojové učení z práce „Robust Physical-World Attacks on Machine Learning Models“
i Zdroj: PCTuning.cz
Značky použité k úspěšnému útoku na strojové učení z práce „Robust Physical-World Attacks on Machine Learning Models“

To, že automatické řízení vletí do stopky sedmdesátkou, může být rafinovaný pokus o vraždu, ale taky strašně zábavná legrace vypatlaných jedinců, kteří se zatím baví u low-tech debilit, jako je vyhazování autobusů do vzduchu, házení kamení na auta z mostů či pokusy o vykolejení vlaku. Tak proč nešikanovat umělou inteligenci v autech? Lehká úprava značky a sledování následků v médiích je bezpečnější, než kradení zajišťovacího zařízení pod napětím anebo nějaká super youtube zábavka, kterou si jako správní bezmozci natáčíte, abyste tak pořídili usvědčující materiál proti sobě.

Předchozí
Další
Reklama
Reklama

Komentáře naleznete na konci poslední kapitoly.

Reklama
Reklama