| HL-AI 2018: Jak daleko máme k opravdové AI? |
| autor: Michal Rybka , publikováno 1.9.2018 |
Minulý týden, 22.-25. srpna 2018, proběhla v Praze konference Human Level Artificial Intelligence Prague 2018. Na ní se sešla řada výzkumníků, vývojářů a dalších lidí, kteří se zabývají umělou inteligencí. Jaká jsou největší úskalí současné AI a co je potřeba zlepšit?
Čtyři zásadní rizika podle UN
Mezi čtyřmi zásadními riziky z hlediska UN byly jmenovány tyto body:
1) Zvýšení nezaměstnanosti kvůli nástupu AI – Toto téma jsme už diskutovali, je nepochybné, že řada výrobců chce nahradit nespokojené a drahé lidi levnějšími stroji. Nelze se spoléhat na to, že pro tyto lidi vznikne automaticky dostatek nových pracovních míst.
2) Zneužití AI při páchání trestné činnosti – Podobně jako AI bude využívat policie, pokusí se AI použít i zločinci. Je proto důležité vyvinout rezistenci proti takovým útokům, jejich detekci a detekci zdroje útoku.
3) Smrtící autonomní zbraně – Vznik smrtících autonomních zbraní je lákavý jak pro velké státy, které by získaly například letecké drony odolné proti zarušení a se schopností vlastního rozhodování, tak i pro všeho schopné výrobce zbraní, kteří se mohou zaměřit například na drony působící jako kamikaze.
4) Existenční rizika, která může přinést superinteligence – Pokud dosáhneme lidské inteligence, velmi pravděpodobně dosáhneme i superinteligence. A je otázka, jestli bude chtít to samé, co chceme my – je zde určitá hrozba, že pro superinteligenci budeme představovat existenční problém. Problematice se věnuje kniha Nick Bostrom v knize Superinteligence.
Jak shrnout dojmy s HLAI 2018? Předně všechna čest GoodAI, které se podařilo zorganizovat mnohadenní konferenci naprosto perfektním způsobem. Přestože řada účastníků měla velmi rozdílné názory a vidí problematiku pod různými úhly, je skvělé, že se o problémech baví, že je otevírají a diskutují. Za mě šlo o událost podstatně zajímavější a inspirativnější, než jsem původně předpokládal, také se ukázalo, že přednášející z větší části nejsou suchaři – a takový Ben Goertzel, to je naprosté zjevení.
Takže doufám, že se konference někdy zase do Prahy vrátí a my se seznámíme s pokroky na tomto poli! A mimochodem, pokud sami pracujete na nějakém projektu, určitě omrkněte AI Startup Incubator, který podobným projektům pomáhá!
Videoreportáž z HLAI 2018:
Nový Aibo The Shitless Dog:
Redakce si vyhrazuje právo odstranit neslušné a nevhodné příspěvky. Případné vyhrady na diskuze(zavináč)pctuning.cz
Jinak dobrej film ted novej k tematu se jmenuje Upgrade, doporucuju ke zhlednuti.
A nejde jen o tohle. AG změnilo způsob jakým lidé uvažují o spoustě tazích a ukázalo nám, že naše teorie hry, vyvíjená tisíce let má slepá místa a někde se mýlí.
On totiž člověk´není stroj a několikrát za hru udělá slabší tah - ne třeba špatný - ono stačí lehce suboptimální a už to v životě nedožene. Hrát proti silné neurální AI je jako hrát tenis proti zdi.
Ještě zajímavější je akcelerující tempo demokratizace těchto technologií. Sotva dva roky nebo kolik od AlphaGO už máme open source nerální AI, co je superlidská i na high endovém consumer HW. http://zero.sjeng.org/. To je jedna věc, u které jsem fakt nečekal, že příjde tak brzy. Myslel bych si, že třeba minimálně 5 let to ještě bude doména superpočítačů. Sledovat pak nějakého hodně silného hráče hrát proti tomuto je dost depresivní zkušenost. On totiž nedělá žádné významné chyby ale prostě se ta AI chytí každé drobnosti a ten winrate ubývá velice postupně. Támhle lehce suboptimální tah stojí 2 procenta z winrate, tady 4 a kousek k kousku se sečte a najednou jste z 50% na 20....
Docela to ilustruje to, co pan Bybka píše o omezeních současných neurálních sítí.