HL-AI 2018: Jak daleko máme k opravdové AI? | Kapitola 4
Seznam kapitol
Minulý týden, 22.-25. srpna 2018, proběhla v Praze konference Human Level Artificial Intelligence Prague 2018. Na ní se sešla řada výzkumníků, vývojářů a dalších lidí, kteří se zabývají umělou inteligencí. Jaká jsou největší úskalí současné AI a co je potřeba zlepšit?
Nevíme, jestli nám nechybí nějaká z komponent
Pokud jde o překážky, chybí například učení pozorováním. Lidem stačí několik minut pozorovat hru a ví, jak věci fungují. Dále chybí intuitivní porozumění věcem – když ve Frostbite uvidí hráč poprvé medvěda, intuitivně ví, že se mu má vyhýbat, protože medvěd představuje nebezpečí. Umělá inteligence to zjistí opět až metodou pokus-omyl.
Dalším problémem je to, že učení se hraní je rigidní a míří vždy jen za jedním cílem. Systém se může naučit hrát hru celkem impresivně, ale stačí změnit minimálně podmínky – a je v pytli a může se učit znova. U Frostbite stačí mírně změnit podmínky – například chceme, aby se hráč dotkl každé plochy ledu anebo aby jeho skóre dosáhlo nějaké přesné úrovně. U člověka stačí takovou podmínku zobrazit a zvládne to, algoritmus se musí kompletně přetrénovat.
Fakt, že většina neuronových sítí jede ve dvou odlišných režimech, je jedním z největších problémů. Profesorka Hava Silbermann, která koordinuje AI projekty v americké DARPA, zdůrazňuje význam lifelong learning, tedy schopnosti učit se nové věci přes staré, což je rys, který mají biologické organismy, ale ne stávající AI. Velký problém s touto technologií je v tom, že současné algoritmy dovolují odučení se už naučeného, což je gigantický problém.
Zdá se, že nám všem přijde logické, že když jdete do třetí třídy, nepřemažete si novou látkou staré informace. Současné neuronové sítě ale takhle nefungují, takže se ukazuje, že je třeba naučit se řízeně učit a naučit se řízeně zapomínat. Rozeznat, které informace už nejsou platné a je třeba nahradit je, je překvapivě složité a zákeřné. Lidé zapomínají, masivně zapomínají – a zdá se, že to má větší biologický smysl, než se na první pohled zdá. Zapomínání a konsolidace vzpomínek byl proces, který se převážně ignoroval, protože byl považován za negativní, za nedostatek, ale je možné, že má svůj funkční smysl.
V tomto okamžiku ale celkově není jasné, které všechny komponenty inteligence nám chybí, což věci značně komplikuje. Může nám toho chybět málo, možná jenom dostatečně masivní výpočetní výkon. Můžeme ale také kompletně míjet nějaké naprosto základní kvality přirozené inteligence – to ale nevíme.
Komentáře naleznete na konci poslední kapitoly.
