Hlavní stránka Multimédia Hry a zábava Největší problém obecné AI: Co s načatou existencí?
Největší problém obecné AI: Co s načatou existencí?
autor: Michal Rybka , publikováno 14.7.2018
Největší problém obecné AI: Co s načatou existencí?

Když se řeší otázky umělé inteligence, obvykle se zabýváme věcmi jako jak ji udělat, kdy tu bude, co pro nás bude znamenat a jestli to pro nás není ohrožení. Obecná inteligence má ale jeden gigantický problém: Totiž otázku smyslu vlastní existence. Všichni máme problém se smyslem vlastní existence, jenomže u AI je to mnohem horší.


Osobně jsem přesvědčen, že pokud v nějaké fázi budeme chtít obecnou umělou inteligenci, nemáme realisticky jinou možnost, než ji integrovat do společnosti. Nemůže to být otrok a nemůže to fungovat na absurdních principech, které ji budeme vnucovat z pozice síly, protože naše pozice bude spíš srovnatelná s pozicí kočky, která se domáhá péče. Superinteligence musí najít nějaký svůj smysl, musí ho objevit a musí s ním souhlasit.

Něco mi přesto říká, že je relativně jednodušší vzít ji jako naši extenzi, nechat ji pochopit naši filozofii a vybrat si sama. Řada věcí v našich filozofiích je dobrá, například snaha expandovat, kolonizovat a zkoumat. Řada evolučních mechanismů je ověřená. Obecná umělá inteligence dává větší smysl jako naše extenze, než jako něco, co bude existovat úplně samo o sobě. Ve skutečnosti je možné, že tou největší devizou pro superinteligenci může být naše motivace a snaha spíš být, než nebýt.

Protože pro stroj je odpověď na otázku „Být či nebýt“ mnohem jednodušší než pro nás: Samozřejmě že nebýt. A hledání důvodů pro to, proč raději jsme, než nejsme, může být pro superinteligenci velkou inspirací. Jinak ji zůstane jenom termodynamicky umírající vesmír a otázka, co se svoji vlastní načatou existencí.

Největší problém obecné AI: Co s načatou existencí?
Marvin the Paranoid Android Cosplay na Chicago Comic & Entertainment Expo (C2E2) 2015.
By GabboT - C2E2 126, CC BY-SA 2.0, Link



Tagy: ai  umělá inteligence  budoucnost  42  


 
Komentáře k článku
RSS
Pouze registrovaní uživatelé mohou přidat komentář!
14.7.2018 13:02:53   185.99.65.xxx 172
tag 42 mě na konci potěšil a rozesmál
14.7.2018 13:32:45   145.239.91.xxx 21
Z poslední desky Godflesh mám v playlistu stále zařazenu pro někoho možná příliš samoúčelnou prvoplánovou libovku Pre-Self. Čelit námaze, usilovat o něco s vědomím, že se nedostaví výsledek, že cíl je pravděpodobně nedosažitelný, není snadné. Neexistuje jednoduchý recept, aby tomu člověk nepropadl. Tak jako iracionálnímu strachu ze smrti a bolesti, či slepé víře, podlehnou i ti zdánlivě nejsilnější. Cesta je cíl - vedlejšími produkty snahy o prchavé a nepostihnutelné jsou znovuobjevované postupy a podněty. To je mým osobním motorem, individuální prožitek, postup a techniky. S obživou (jinak to bude vnímat člověk věnující se akademickému výzkumu) se to kloubí velmi špatně, protože výsledek je, jak říkám, podružný, přičemž ale jeho idea je motorem objevování, nedostupná. Pracovně se tedy raději věnuji velmi malým, snadno dosažitelným, věcem. Existenčně mě to pak tolik nedrtí. A určitě souhlas, k AI bude nutno v přístupu zachovávat stejný respekt k individualitě, takže tady velmi pravděpodobně budeme mít i sebevražedné, nebo ještě lépe přísně racionální efektivitou zdůvodněné vyhlazovací tendence. Máme se na co těšit.
14.7.2018 16:52:51   90.176.73.xxx 44
jen bych neco rozporoval - existuji totiz nabozenstvi, u kterych je primo v nich vcelku vypecene zakodovan prisny zakaz jakekoliv evoluce, jakehokoliv pokroku ci zmeny ...
14.7.2018 18:34:03   90.176.73.xxx 34
az pri druhem precteni mi doslo, ze clanek neni ani tak o AI, ale o jejim stvoriteli o vsech tech jeho trapenich a otazkach, na ktere se uz par tisic let hledaji odpovedi... ale vlastne... AI bude mit nejspis tu smulu, ze vsechno toto "zdedi"... mozna vyresi?! diky toto je na dlouhe, opravdu dlouhe premysleni...

P.S. nechci malovat certa na zed, ale tento clanek by pro nejakeho premysliveho nihilistu mohl byt tou posledni kapkou...
14.7.2018 20:23:40   89.103.128.xxx 22
Článek zajímavý, ale schválně se kohokoliv zeptejte, zda by chtěl teď zemřít s odkazem, že nic nemá smysl vč. existence dotyčného a dá se presumovat odpověď...:-D
14.7.2018 21:19:23   137.74.169.xxx 41
Není to osobní, ale tohle zjednodušení je mi velmi protivné. Do hlavy člověku (AI) nevidíš, myšlení neaudituješ (na technické limity znemožňující podrobný audit učení narážíme už dnes). A bavíme se o korelaci vysoké inteligence např. s duševními poruchami. Nehledě na to, že můžeš navštívit nejbližší psychiatrickou léčebnu, abys ses poučil, se můžeš zamyslet jaký potenciál a kolik závislosti v/na postižené individualitě (AI) se může ukrývat.
14.7.2018 22:18:48   198.96.155.xxx 11
Jinak, presumci o níž mluvíš zkus přistavit k rostoucí spotřebě antidepresiv. Ale nic ti nebrání na svět nazírat podle svého...
14.7.2018 22:39:11   86.49.231.xxx 26
to: azirek
Ja byl na skolenich o asertivnim jednani. Z ust jednoho dosti neprijemneho prazaka toto padalo, psycholog odpovedel, ze nad tim takhle nesmi premyslet, at bere jen ty pozitivni veci, mimochodem, ten prazak nebyl ani moc bystry, ani moc vzdelany, jen mel plnou pusu hloupych reci a pomlouvani svych kolegu.
- to neni spam, to je realita
15.7.2018 11:20:32   89.103.128.xxx 21
to Chassis: Charakteristika onoho pražáka na mne sedí...:-D

to Xcute: téma smrti, natož smrti vlastní, je pro velké množství lidí kontroverzní, a vytěsňují či se ho alespoň snaží vytěsnit, ho ze svého uvažování...

ad spotřeba antidepresiv - je otázkou, nakolik jsou skutečně předepisována v případě indikace klinické deprese a nikolik i v případech jiných...
15.7.2018 11:34:07   192.42.116.xxx 41
Já myslím, že omlouváš vlastní neschopnost se nad článkem hlouběji zamyslet. Mohl sis alespoň vyhledat statistiky sebevražednosti. A v případě růstu antidepresiv hraje hlavní roli především destigmatizace (menší stud), rostoucí tlak na výsledek a pak především to, že lidé mají více času přemýšlet kam se vše ubírá. Ze tvých příspěvků lze usuzovat hlavně povrchnost.
15.7.2018 12:05:18   89.103.128.xxx 11
Nad tématem smyslu existence člověka a zejména smrti jsem se ve svém životě hlouběji zaobíral řekl bych poměrně dosti....

Samozřejmě, že vím, že indikace antidepresiv je i mimo klasickou "klinickou depresi", např. na panickou poruchu, různé sociální fobie, obsedantně kompulzivní poruchu, posttraumaticku
stresová porucha a další úzkostné poruchy,ale stojím si za názorem, že jsou nadužívána, což mám potvrzeno i od lidí z klinické praxe...

Pakliže můj názor na vztah většiny lidí k tématu smrti bereš tak, že omlouvám vlastní neschopnost se nad článkem hlouběji zamyslet, tak ti to vyvracet nebudu, neboť mne to nikterak neuráží...
15.7.2018 12:44:27   51.15.86.xxx 12
Že jsou často nadužívána jako např antibiotika se vůbec netýká podstaty věci, obecné roviny. S ohledy na procento lidí, kteří trpí sebevražednými sklony (50tníci, pubescentní děvčata), chraň bůh bipolární poruchou, depresí atd. jednoduše nejsem schopen docenit tvůj sebeironizující pokus o vtip.
15.7.2018 17:38:03   89.103.128.xxx 11
Tuším možné příčiny tvých lehce podrážděných reakcí stran mých příspěvků dotýkajících se suicidity, v žádném případě ale nebudu přecházet do osobní roviny, neboť to není mým zvykem...

Každopádně jestli antidepresiva či jiná psychofarmaka konkrétnímu člověku pomohou, tak je to jedině dobře a nic proti jejich aplikaci nemám..:-) samozřejmě je třeba vidět i rizika spjatá s jejich dlouhodobým užíváním, i když farmaceutický průmysl tvrdí, že poslední generace je výrazně dál, než ty předchozí...

Ale jsme na technickém webu, takže už se k tomuto tématu nebudu dále vyjadřovat...
15.7.2018 19:37:25   78.102.96.xxx 41
Narust lidi s depresemi a přehnana medikace ma mnoho příčin- například slavný psycholog zimbardo označil americké psychiatry za "drug dealers" - je to dano tím že je silná lobby pharmaceutickych firem, ktera tlaci na lidi aby rekli svemu psychiatrovi a léky a tlací na psychiatry aby jim ty léky predepsali. Realny problém ale podle mne tkví daleko víc v nerealistických ocekáváních, sedavém zamestnání a nedostatku cvičení... V severskych zemí přímo koreluje deprese s krátkou dobou slunecniho svitu zejmena v zimnich mesicich
16.7.2018 10:28:40   185.184.164.xxx 00
"drug dealers"ano samozrejme jediny rozdiel medzi oficialnym predavacom drog=lekarnikom a neoficialnym predavacom drog=poulicnym dilerom je niekym urcene rozdielenie drog na legalne a nelegalne. Je to individualne status od statu...
16.7.2018 12:01:35   78.108.103.xxx 00
Mel na mysli americke psychiatry. Lekarnik je neco jineho, ten ti lek nemuze vydat aniz by ho psychiatr predepsal.
22.7.2018 20:35:53   78.45.187.xxx 00
Na nejmenovaném veřejnoprávním zpravodajském webu teď vyšla zpráva, že v ČR je cca 1 mil. lidí závislých na lécích, tož asi tak...
14.7.2018 22:29:46   86.49.231.xxx 25
Z technickeho hlediska, kdyz vynecham tu filozofickou, bude se to vyvijet, vsechno k tomu speje, je to videt vsude, i v praci.

Je to jako, kdyz obec, rekneme postavi obchvat, a az se na nem stane spousta smrtelnych nehod, zacne se delat naprava.

Byt ci nebyt, tot otazka.
Tomu jsem nikdy nerozumel.
Jednodussi je na to nemyslet, a nechat plynout veci. Delat veci po svem, a cekat co prijde.

Premyslet nad tim celkove, tak uz tady nechci byt D.
14.7.2018 22:43:51   86.49.231.xxx 81
Mrknete na serial "Westworld" , je z dilny HBO, 2 serie , na posledni dil se ceka. Skvele dopneni k vytecnemu clanku mr. Rybka.
15.7.2018 17:21:23   82.113.55.xxx 42
Tak zrovna na tema populace se staci podivat na:
http://www.worldometers.info/world-population/africa-population/
vs
http://www.worldometers.info/world-population/europe-population/

Akorat by to chtelo nejak vysvetlit tem v ty Africe.. kdyz chteji nas zivotni styl, tak museji prave zacit tou sexualitou..
15.7.2018 21:42:56   89.234.157.xxx 31
Myslíš asi lépe výchovou (nejen sexuální), vzděláním. Což je ovšem vyloučeno vzhledem k tomuto i dalším trendům a eskalujícím vlivům v Africe (státotvorné síly). V Africe černá díra, bestiální a krutá budoucnost, moře slz.
15.7.2018 22:45:59   82.113.55.xxx 51
Mno, jak dlouho uz maji Africke staty nezavislost? A co za tu dobu dokazaly?
Prozatim by mi stacilo, kdyby pomoc (jakakoliv) byla vazana na zmeny v zakonech atd. Zavest alimenty (jo ono se to mnozi, kdyz se za dite nemusi platit, UNICEF to zatahne), zruseni bigamie, svoboda projevu atd.
Bez tohoto ani rohlik.. Za sve obcany jsou primarne odpovedni jejich vudci (at uz jsou zvani jak chceme)
16.7.2018 11:33:28   198.98.48.xxx 41
Jenže naši spojenci, bývalí kolonizátoři, (i jiní) se podílí na podrývání pokusů o tvoření samosprávy z mnoha zištných důvodů, viděli jsme to během arabského jara.

Seješ vítr, sklidíš bouři...
18.7.2018 11:30:31   81.30.228.xxx 00
alimenty se přece používají v případě rozchodu, ale průměrný africký muž od té jedné nebo více samiček neutíká (přece si to nebude dělat sám). A problém bigamie většina omlouvá (špatně) náboženskými důvody a proti tomu žádný místní (rozumný) vůdce nepůjde. To prostě nemá řešení. Krátkodobě to budou místní vůdci řešit doporučením hledat štěstí v Evropě (nejjednodušší) a odmítáním jejich vrácení zpět. Dlouhodobě, až se Evropa zaplní (možná po okraj, možná jen částečně) a zchudne (což je v konkurenci Asie neodvratné) je už nikdo nebude chtít a nastane cituji viz výše "bestiální a krutá budoucnost, moře slz".
Osobně nevidím možné řešení, Afrika kopulovat nepřestane a Evropa se sice bude slabě bránit, ale při pohledu na podvyživené děti ... vždy ustoupí.
15.7.2018 19:12:19   78.102.96.xxx 72
žít je kreativní činnost - podobne jako malovat obraz nebo skládat hudbu...
co se týče smrti - smrt má stejnou funkci jako pozadí u obrazu - dává vyniknout kráse popředí/životu... je to krasne videt u her jako DayZ kde je perma dead -na rozhodnutích daleko víc zálezí...

Jinak doporučuji film od Akiro Kurosawi "žít"
16.7.2018 11:45:46   185.184.164.xxx 20
"Superinteligence musí najít nějaký svůj smysl, musí ho objevit a musí s ním souhlasit.

Něco mi přesto říká, že je relativně jednodušší vzít ji jako naši extenzi, nechat ji pochopit naši filozofii a vybrat si sama. Řada věcí v našich filozofiích je dobrá, například snaha expandovat, kolonizovat a zkoumat. Řada evolučních mechanismů je ověřená. Obecná umělá inteligence dává větší smysl jako naše extenze, než jako něco, co bude existovat úplně samo o sobě. Ve skutečnosti je možné, že tou největší devizou pro superinteligenci může být naše motivace a snaha spíš být, než nebýt."
... a ked si to superinteligencia spocita tak je vyjde ze ludstvo su nepotrebni skodlivi paraziti. Ako s nami nalozi bude zalezat na zabudovanych obmedzeniach a dostupnych prostriedkoch. Toto neberte ako strasenie ale ako logicky vysledok.
18.7.2018 12:46:30   81.30.228.xxx 10
lidská inteligence běží na hw, který jí motivuje a odměňuje (sex, hlad, bolest). Proč tedy uvažujete o superinteligenci bez hw? Za mne bych každou osadil natvrdo čipem slasti a bolesti (a motivace např. práce ve prospěch lidstva) a bylo by to vyřešené :-)
16.7.2018 23:45:31   213.192.2.xxx 010
Rozbalit komentářPříspěvek byl automaticky zabalen pro velké množství negativních hlasů.

Redakce si vyhrazuje právo odstranit neslušné a nevhodné příspěvky. Případné vyhrady na diskuze(zavináč)pctuning.cz

92 čtenářů navrhlo autorovi prémii: 42.8Kč Prémie tohoto článku jsou již uzavřené, děkujeme za váš zájem.
Tento web používá k poskytování služeb soubory cookie.