| Člověk versus počítač: Kdo drží tlačítko? |
| autor: Michal Rybka , publikováno 25.9.2015 |
| Seznam kapitol |
|---|
| 1. Inteligentní blbec je horší než... |
| 2. I „primitivní“ mozky skvěle plní účel |
| 3. Venku jde o život |
| 4. Zatím jenom pomáhají |
| 5. Dobrý sluha, zlý pán? |
| 6. Když je člověk chytřejší než AI (anebo si to myslí) |
| 7. Až zmizí tlačítko poslední záchrany... |
Část výzkumníků se obává vzestupu počítačové superinteligence. Ve skutečnosti potíže s umělou inteligencí už začaly – a to ne proto, že by AI po benderovsku v noci snila o tom, že „vyvraždí všechny lidi“. Začaly proto, že se její názor na věci občas liší od toho, jak problém vidí lidé, což vede k technickým katastrofám.
Velmi dobrou otázkou je – kdo vlastně za robotické auto zodpovídá? Auto udělá chybu a někoho zabije, například proto, že si chodec na silnici dřepne a tím ze sebe udělá pro senzory auta příliš malý cíl. Je to chyba automobilky, softwarového vývojáře anebo vás? Kdo za to může a kdo má odškodnit pozůstalé? O tohle nás čeká velká bitva, první z velkých právních bitev na cestě k plně autonomní robotice. Armáda si je navyklá dělat víceméně co chce, automobilový průmysl takové páky nemá.
Užitečnost automatických systémů a Artificial Narrow Inteligence nikdo nepopírá. Valeo nám ukázalo auto, které dokáže samo zaparkovat na pokyn z aplikace v mobilním telefonu anebo samo přijet. Dojedete k supermarketu, ale prší, takže zastavíte před vchodem a necháte auto zaparkovat samo. Nezmoknete a nemusíte se soukat ze dveří na omezeném prostoru parkoviště. Po nákupu si zase auto přivoláte až ke dveřím a v klidu si naložíte nákup.
Aplikace má ale jednu zvláštnost: Během celého procesu musíte držet tlačítko funkce, pokud ho pustíte, proces se ihned zastaví. Zatím jste za své auto zodpovědní vy, protože vy držíte tlačítko. Musíte auto sledovat a v případě potíží prst pustit. U dnešních robotických zabijáků za vypouštění zbraní také zodpovídá operátor, taky má svoje tlačítko. Robot je zatím na pomyslném vodítku, je autonomní, ale pořád je zodpovědnost za jeho počínání na vás.
Malí roboti, jako jsou automatické vysavače, už ale takové tlačítko nemají. Ani pokročilé kamerové drony ne. V případě, že se něco pokazí, se musí rozhodnout samy: Vrátí se do nabíječky anebo doletí na místo, odkud vystartovaly. Zatím dovolujeme svobodu jenom malým a lehkým zařízením, na ta těžká, která mohou způsobit katastrofu, stále dohlíží člověk.
Moment, kdy i velká zařízení přijdou o kontrolní tlačítko, bude možná významnější moment v dějinách robotiky, než je dosažení singularity. Singularita vede k vytvoření stroje, který je chytrý asi jako chlápek, co sedí vedle vás. Autonomní robotický mozek, který řídí sám mnohatunový náklaďák, je potenciálně mnohem nebezpečnější. A moment, kdy se takové stroje objeví, je na rozdíl od singularity už doslova za dveřmi...
Redakce si vyhrazuje právo odstranit neslušné a nevhodné příspěvky. Případné vyhrady na diskuze(zavináč)pctuning.cz
Když jsem to tak četl, vzpomněl jsem si, obvzláště u první poloviny článku, na mého milovaného S. Lema (Lymphaterův vzorec).
Inteligence a racionalita jsou nebezpečné, jsou to vlastnosti, kterým je vlastní přísloví "účel světí prostředky" (2001: Vesmírná odyssea) - strach části výzkumníků o němž je tu řeč, je zcela oprávněný a pochopitelný. Ač si možná, Rybko, říkáš, že vychází z technologického optimismu, je dost dobře možné, že dojde k mimoděčnému objevu typu penicilín - proto si myslím, že obavy ani z tohoto pohledu nejsou přehnané.
Kdo drží tlačítko?
Myslím, že lidstvo od počátku žije víceméně v iluzi, že drží tlačítko. Troufám si tvrdit, že z významné části máme na vývoj a šíření technologií jen velmi omezený vliv. Technologie ve své "subtilní podstatě" je komplexní systém, který označujeme jako "příroda". Už od úsvitu lidstva s tím bojujeme, snaží se to vymezit nejedno náboženství - tu subtilní podstatu technologie, její provázanost s přírodními procesy a víceméně nezávislost na člověku dost dobře demonstruje oheň...
---
No a clovek uz umi skutecnou AI ale jenom diverzifikovanou na nejaky konkretni specialni ucel, to jest v tom konkretnim jednom ucelu uz muze predstihnout cloveka, treba pocitac hrajici sachy. Jenomze clovek musi krome sachu jeste take spoustu dalsich veci a zadna obecna AI neexistuje. Takze v poho, rok 2040 jako prelomovy v dovednostech AI - kez by, spis bych to videl na 2140 a jelikoz v roce 2040 nebude vynalezena AI, ktera by dokazal vynalezt prodlouzeni zivota cloveka, tak jestli to vynaleze v roce 2140, je mi to jedno, stejne uz budu pod drnem.
Představoval bych si, že AI dokáže sama pochopit kontext a vybrat správný překlad dané věty, slova.
Už jen na tomto příkladu je, myslím, dobře vidět, že AI se ještě dlouho bát nemusíme.
Optimista je vlastne iba realista s deficitom informacii.
Dnesne samojazdiace auta/prototypy su tak blbe/sproste/obmedzene, ze dokazu jazdit iba na trase, ktoru maju vopred v databaze. PO INEJ TRASE JAZDIT NEDOKAZU !!!!! Aj u Googla je to zatial stvrt jedneho mesta !!!!!!!!!!!!!!!
Okrem toho sa nedokazu popasovat s trilionom situacii, ktore sa v realnej premavke vyskytuju: hmla, dazd, pokazeny semafor, prekazka/praca na ceste a prenosne dopreavne znacenie, dopravny policajt a dalsie.
V neposlednom rade jazdenie takychto aut v SR (a asi ani v ČR) NIE JE V SUCASNOSTI mozne ani kedy rovne hned tarez existovali, pretoze na to NEEXISTUJU ZAKONY/LEGISLATIVA.
Netreba si mylit autopilta v liedatle a autopilotom v aute. Autopilot v lietadle je vlastne program, ktory ma udrzialavt iste parametre letu, akysi tampomatv aute. Len pri tempomate sa udrzuje jediny parameter: rychlost no a pri autopilote lietadla je tych parametrov mozno viac. ALE autopilot lietadla sa nemusi pasovat s premavkou na pozemnykch komunikaciach.
NEMYLNE SI AUTOPILOTA v lietadle a AI, lebo autopilot v lietadle je v podstate iba komplikovanbejsi tempomat alebo cuvaci senzor.
No a auta co vedia zaparkovat same (vytacat volant v okruhu 4 metre jak dovoluju senzory) existuju uz roky, to nie je nic nove.
---------------- ---------------- ----------------