Hlavní stránka Multimédia Hry a zábava Člověk versus počítač: Kdo drží tlačítko?
Člověk versus počítač: Kdo drží tlačítko?
autor: Michal Rybka , publikováno 25.9.2015
Člověk versus počítač: Kdo drží tlačítko?

Část výzkumníků se obává vzestupu počítačové superinteligence. Ve skutečnosti potíže s umělou inteligencí už začaly – a to ne proto, že by AI po benderovsku v noci snila o tom, že „vyvraždí všechny lidi“. Začaly proto, že se její názor na věci občas liší od toho, jak problém vidí lidé, což vede k technickým katastrofám.


Velmi dobrou otázkou je – kdo vlastně za robotické auto zodpovídá? Auto udělá chybu a někoho zabije, například proto, že si chodec na silnici dřepne a tím ze sebe udělá pro senzory auta příliš malý cíl. Je to chyba automobilky, softwarového vývojáře anebo vás? Kdo za to může a kdo má odškodnit pozůstalé? O tohle nás čeká velká bitva, první z velkých právních bitev na cestě k plně autonomní robotice. Armáda si je navyklá dělat víceméně co chce, automobilový průmysl takové páky nemá.

Užitečnost automatických systémů a Artificial Narrow Inteligence nikdo nepopírá. Valeo nám ukázalo auto, které dokáže samo zaparkovat na pokyn z aplikace v mobilním telefonu anebo samo přijet. Dojedete k supermarketu, ale prší, takže zastavíte před vchodem a necháte auto zaparkovat samo. Nezmoknete a nemusíte se soukat ze dveří na omezeném prostoru parkoviště. Po nákupu si zase auto přivoláte až ke dveřím a v klidu si naložíte nákup.

Aplikace má ale jednu zvláštnost: Během celého procesu musíte držet tlačítko funkce, pokud ho pustíte, proces se ihned zastaví. Zatím jste za své auto zodpovědní vy, protože vy držíte tlačítko. Musíte auto sledovat a v případě potíží prst pustit. U dnešních robotických zabijáků za vypouštění zbraní také zodpovídá operátor, taky má svoje tlačítko. Robot je zatím na pomyslném vodítku, je autonomní, ale pořád je zodpovědnost za jeho počínání na vás.

Malí roboti, jako jsou automatické vysavače, už ale takové tlačítko nemají. Ani pokročilé kamerové drony ne. V případě, že se něco pokazí, se musí rozhodnout samy: Vrátí se do nabíječky anebo doletí na místo, odkud vystartovaly. Zatím dovolujeme svobodu jenom malým a lehkým zařízením, na ta těžká, která mohou způsobit katastrofu, stále dohlíží člověk.

Moment, kdy i velká zařízení přijdou o kontrolní tlačítko, bude možná významnější moment v dějinách robotiky, než je dosažení singularity. Singularita vede k vytvoření stroje, který je chytrý asi jako chlápek, co sedí vedle vás. Autonomní robotický mozek, který řídí sám mnohatunový náklaďák, je potenciálně mnohem nebezpečnější. A moment, kdy se takové stroje objeví, je na rozdíl od singularity už doslova za dveřmi...



Tagy: umělá inteligence  autonomní roboti  AI  


 
Komentáře k článku
RSS
Pouze registrovaní uživatelé mohou přidat komentář!
25.9.2015 20:40:34   188.175.34.xxx 92
Předně děkuji za přednášku Michaela Dickinsona - podnětná, optimálně humorem odlehčovaná, nálož informací a postřehů.

Když jsem to tak četl, vzpomněl jsem si, obvzláště u první poloviny článku, na mého milovaného S. Lema (Lymphaterův vzorec).

Inteligence a racionalita jsou nebezpečné, jsou to vlastnosti, kterým je vlastní přísloví "účel světí prostředky" (2001: Vesmírná odyssea) - strach části výzkumníků o němž je tu řeč, je zcela oprávněný a pochopitelný. Ač si možná, Rybko, říkáš, že vychází z technologického optimismu, je dost dobře možné, že dojde k mimoděčnému objevu typu penicilín - proto si myslím, že obavy ani z tohoto pohledu nejsou přehnané.
25.9.2015 22:31:33   188.175.34.xxx 16
A minule jsem to nakousnul a teď jsem si vzal do úst S. Lema - rozvedu to, když už jsem v této fázi (nutící mě k úvahám) tedy:

Kdo drží tlačítko?

Myslím, že lidstvo od počátku žije víceméně v iluzi, že drží tlačítko. Troufám si tvrdit, že z významné části máme na vývoj a šíření technologií jen velmi omezený vliv. Technologie ve své "subtilní podstatě" je komplexní systém, který označujeme jako "příroda". Už od úsvitu lidstva s tím bojujeme, snaží se to vymezit nejedno náboženství - tu subtilní podstatu technologie, její provázanost s přírodními procesy a víceméně nezávislost na člověku dost dobře demonstruje oheň...
25.9.2015 22:42:13   89.176.232.xxx 33
A je tohle to vubec nejaka umela inteligence? Protoze AI si predstavuju tak, ze tomu poskytnu nejake zakladni prikazy a ono to samo bude z techto prikazu odvijet dalsi, teda treba to auto je rizene pomoci navadeni indukcnim kabelem prvnich 1000km, potom uz samo zjisti (nauci se), jak ma spravne jezdit a muze vyjet i na treti tridky, kde zadnej indukcni kabel nevede. Tohle je AI a ne neco co pouze vykonava predem dane prikazy.
---
No a clovek uz umi skutecnou AI ale jenom diverzifikovanou na nejaky konkretni specialni ucel, to jest v tom konkretnim jednom ucelu uz muze predstihnout cloveka, treba pocitac hrajici sachy. Jenomze clovek musi krome sachu jeste take spoustu dalsich veci a zadna obecna AI neexistuje. Takze v poho, rok 2040 jako prelomovy v dovednostech AI - kez by, spis bych to videl na 2140 a jelikoz v roce 2040 nebude vynalezena AI, ktera by dokazal vynalezt prodlouzeni zivota cloveka, tak jestli to vynaleze v roce 2140, je mi to jedno, stejne uz budu pod drnem.
26.9.2015 21:12:20   213.226.245.xxx 31
Jak je na tom umělá inteligence, si může každý vyzkoušet na adrese Google translatoru. Co z toho občas leze za perly, je někdy k pousmání.
Představoval bych si, že AI dokáže sama pochopit kontext a vybrat správný překlad dané věty, slova.
Už jen na tomto příkladu je, myslím, dobře vidět, že AI se ještě dlouho bát nemusíme.
26.9.2015 21:36:27   77.48.50.xxx 33
Souhlas. Ale překlad je disciplína, kde mají do dělat i profíci. Od AI by mi stačilo třeba korektní OCR, správné pochopení úloh typu "vyber ve fotce oblohu, obličeje", nebo třeba jen konverze e-knihy tak, aby se správně zobrazila v mojí čtečce - prostě ty věci, co člověk dělá pořád kolem dokola a zaberou spoustu času. A jestli někdo staví robota, ať vymyslí takového, co dovede pořádně a kompletně uklidit domácnost. Na řízení auta ho nepotřebuju - to zvládám sám.
28.9.2015 13:29:02   172.21.124.xxx 31
---------------- ---------------- ----------------
Optimista je vlastne iba realista s deficitom informacii.

Dnesne samojazdiace auta/prototypy su tak blbe/sproste/obmedzene, ze dokazu jazdit iba na trase, ktoru maju vopred v databaze. PO INEJ TRASE JAZDIT NEDOKAZU !!!!! Aj u Googla je to zatial stvrt jedneho mesta !!!!!!!!!!!!!!!

Okrem toho sa nedokazu popasovat s trilionom situacii, ktore sa v realnej premavke vyskytuju: hmla, dazd, pokazeny semafor, prekazka/praca na ceste a prenosne dopreavne znacenie, dopravny policajt a dalsie.

V neposlednom rade jazdenie takychto aut v SR (a asi ani v ČR) NIE JE V SUCASNOSTI mozne ani kedy rovne hned tarez existovali, pretoze na to NEEXISTUJU ZAKONY/LEGISLATIVA.

Netreba si mylit autopilta v liedatle a autopilotom v aute. Autopilot v lietadle je vlastne program, ktory ma udrzialavt iste parametre letu, akysi tampomatv aute. Len pri tempomate sa udrzuje jediny parameter: rychlost no a pri autopilote lietadla je tych parametrov mozno viac. ALE autopilot lietadla sa nemusi pasovat s premavkou na pozemnykch komunikaciach.

NEMYLNE SI AUTOPILOTA v lietadle a AI, lebo autopilot v lietadle je v podstate iba komplikovanbejsi tempomat alebo cuvaci senzor.

No a auta co vedia zaparkovat same (vytacat volant v okruhu 4 metre jak dovoluju senzory) existuju uz roky, to nie je nic nove.
---------------- ---------------- ----------------

Redakce si vyhrazuje právo odstranit neslušné a nevhodné příspěvky. Případné vyhrady na diskuze(zavináč)pctuning.cz

112 čtenářů navrhlo autorovi prémii: 52Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.