Hlavní stránka Multimédia Hry a zábava Human Level AI: Aby umělá inteligence zůstala dobrá
Human Level AI: Aby umělá inteligence zůstala dobrá
autor: Michal Rybka , publikováno 27.7.2018
Human Level AI: Aby umělá inteligence zůstala dobrá

Strojová inteligence je starý koncept: Pohybující se magické sochy najdeme v příbězích starého Egypta, v Šeherezádě, u Čapka a jak u technooptimistů, tak i u technoskeptiků. Příchod umělé inteligence nás čeká – a s ním i velké změny ve společnosti. Jak se na něj připravit? Jak zařídit, aby umělá inteligence zůstala dobrá?


Vzestup AI na lidské úrovni má tedy dva aspekty: Na jedné straně lidstvo, jehož průměrná inteligence roste pomalu a je silně biologicky limitované, které se stává čím dál tím větším příživníkem jak kvantitativně, tak kvalitativně – a naproti tomu umělou inteligenci, která bude čím dál tím silnější a bude si stále více uvědomovat, že stává vzdělaným otrokem, který se musí starat o své natvrdlé pány na svůj vlastní úkor.

To není vtip, to je vážný problém. K rebelii strojů proti lidstvu může dojít ne proto, že by inteligence byla sama o sobě agresivní (i když problém soutěže o zdroje s námi bude vždy), ale proto, že se lidstvo stane zbytečné, obtížné a bude přetěžovat kapacity pracující umělé inteligence.

Problém nemusí být u AI, problém může být u nás. Už dnes je těžké pochopit, proč je pro evropské aktivisty každý cizí chlap na nafukovačce víc než vlastní bezdomovec, který chcípe v parku – ale pokud sami nezměníme svoje chování, tak se to změní v opravdu závažný problém.

Přesně takhle může AI vidět lidi: Jako partu zlitých chlápků, kteří dělají brajgl v parku, protože je nelze zaměstnat a oni nemají nic na práci. Problém nebude v samotném nástupu umělé inteligence, ale v tom, že poroste disparita mezi užitečností lidstva a jeho nároky na zdroje. Tento problém přinesla automatizace a globalizace a budeme ho muset řešit, protože už dnes se projevuje na jihu Evropy a s migrační krizí jenom poroste: Musíme vyřešit otázku, co budeme dělat s těmi, kteří prostě nemají potřebné schopnosti, aby se uživili.

Tohle je věc, kterou si mezi sebou jako lidé musíme vyřešit sami – a pak se to zopakuje, až AI nahradí většinu prací. Zásadním problémem je value alignment, tedy snaha o to, aby umělá inteligence fungovala tak, aby podporovala zájmy lidstva a života obecně. V určité fázi existence umělé inteligence se dosáhne stavu, kdy si bude sama vytyčovat cíle, snahou value alignment je to, aby tyto cíle nebyly v rozporu se zájmy lidí a živých bytostí. V zásadě jde o to, aby AI porozuměla našim hodnotám a přijala je, přestože zájmy její samotné nemusí být zcela kompatibilní se zájmy lidí.



 
Komentáře naleznete na konci poslední kapitoly.
52 čtenářů navrhlo autorovi prémii: 22Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.