Člověk versus počítač: Kdo drží tlačítko? | Kapitola 3
Seznam kapitol
Část výzkumníků se obává vzestupu počítačové superinteligence. Ve skutečnosti potíže s umělou inteligencí už začaly – a to ne proto, že by AI po benderovsku v noci snila o tom, že „vyvraždí všechny lidi“. Začaly proto, že se její názor na věci občas liší od toho, jak problém vidí lidé, což vede k technickým katastrofám.
Dedukce, že dosažení takového a takového chování vyžaduje tak a tak komplexní organismus s takovou a takovou minimální pamětí je ryzí spekulace. Navíc se zdá, že schopnost vyvozování a rozeznávání není dostačující pro vznik opravdové inteligence. Teprve s příchodem autonomních robotů se pozornost zaměřila i na roli emocí. Emoce byl pro první výzkumníky AI spíše nepochopitelný doplněk, „šum na okruzích“, jak to charakterizoval jeden inženýr. Teprve nástup robotů ukazuje, že emoce představují měkký systém rozhodování v nejistotě, který určuje celkový modus chování stroje. Pravda je taková, že jak klasický robot, tak i biologický mozek má na vstupu horu šumu, u kterého se nějak musí poprat se vstupy tak, aby jeho chování dávalo smysl.
S roboty se vynořila potřeba analyzovat, zda je nějaký prostor bezpečný anebo ne. Nejde jen o to, zda se někam „vejdu a nespadnu“, ale zda dokážu vyhodnotit, zda do něj vůbec vstoupit chci. Jsou údaje ze senzorů konzistentní a věrohodné, odpovídají vnitřnímu modelu scény (tedy představě organismu o tom, kde se nachází) – anebo je to nějaké divné? Dron nemusí chtít vletět do lesa ne proto, že by se tam nevešel, ale že by zkolidovat mohl, protože les je dost hustý a v poryvech větru se hýbe. Pokud nefouká, může to být „bezpečné“, pokud fouká, je to „nebezpečné“. V jednom případě máte z lesa „příjemný pocit, je to bezpečné“, v druhém se ho „bojíte“. V obou případech jde o pravděpodobnostní kalkulaci v nejistotě. Vítejte ve světě emocí!
Dodnes není úplně jasné, jestli na to, aby emoce fungovaly, musí stroj fungovat jako autonomní a mít dost senzorů. Jestli inteligence, která vzniká u autonomně se pohybujícího organismu, který se učí reagovat na své okolí (a jak okolí reaguje na něj) je srovnatelná například s inteligencí stroje, který nemá žádné senzory a zabývá se pouze klasifikací dat. Autonomní robot, který se pohybuje v reálném prostředí, musí vyhodnocovat velice pestrou škálu podnětů a rizik. Protože i když stopujete na přehledném místě, kde je kolem spousta prostoru a z geometrického hlediska je to místo přehledné, může jít o zároveň místo velice nebezpečné.
hitchBOT from hitchBOT on Vimeo.
Komentáře naleznete na konci poslední kapitoly.
