AI nám možná nevezme práci. Schválně si tipněte, proč | Kapitola 5
Seznam kapitol
Jedno z pravidel technologického vývoje je to, že každá technologie, kterou jde i jen potenciálně zneužít, bude nakonec zneužita. A jedno takové zneužití se nám už plíží do kanceláří – a pro mnohé to bude docela překvapení.
Aby bylo jasno, 40 % lidí ve svých žádostech lže. Často extrémně nesoudně, příkladem může být youtuber zvaný Datel, který u soudu řešil svoje oddlužení a se sveřepostí debila přitom na sociálních sítích předváděl, jak si užívá na drahých dovolených. Vážně nemusíte být zrovna Hercule Poirot, abyste zjistili, že tenhle trouba soudu lže – ale chce to trpělivost a čas.
U exotů typu Datla se vždy najde někdo, kdo na ně poukáže, ale jak jsem napsal, 40% lidí o sobě lže – a vy můžete nasadit prescreening na to, abyste si zkusili zjistit, jestli vám kandidát asi lže anebo říká pravdu. A vy nechcete ztrácet čas se lháři, s provokatéry a s těmi, kteří se pokoušejí parazitovat na zákonech proti diskriminaci, takže pokud stroj přijde s tím, že kandidát s určitou pravděpodobností lže anebo je na něm něco divně, skončí v tom stavu, kdy ho prostě hodí do koše.
Tohle rozhodnutí je racionální. Nutně ale povede k tomu, že vznikne celé strato populace, které AI bude považovat za podezřelé a jednoduše je odstaví od příležitostí. Pokud se bude AI učit ze svých vlastních výsledků, povede to navíc k fenoménu „sebepotvrzující se předpovědi“: Protože určitý segment kandidátů vyřazuje rovnou, nejsou úspěšní – a protože nejsou úspěšní, vstupují do dalšího cyklu učení jako případ správného rozhodnutí.
Někteří optimisté si myslí, že „AI nás zbaví podvědomých předsudků“. Ne, ti lidé vůbec nechápou, jak strojové učení funguje – a že je naopak extrémně pravděpodobné, že při učení vzniknou naprosto nečekané fantomové předsudky, které se nedají normální lidskou logikou vysvětlit. AI prostě najde anomálie v datech – a protože je v tomto procesu aktivním hráčem, tak se z anomálií stane s časem měřitelný objektivní fakt.
AI nám nejenže bude brát práci, ale ona nám ji také přestane dávat – a nebude nám ani říkat proč. Je jenom otázkou času, až si toho lidi všimnou – a potom nastanou problémy.
A co se stane potom? Kdopak ví? Možná do toho vstoupí stát s nějakou dobře míněnou regulací, která dopadne jako vždycky. Možná udělá další krok k socialismu a prostě zavede povinné kvóty. Problém je v tom, že stát si potřebuje klasifikovat lidi víc než kdokoliv jiný – a tak ho jistě časem napadne na to taky nasadit AI. A jak tak pozoruji úspěchy současného Pirátského digitálního počínání, tak to bude teprve maso.
Obrázky pro úvodní obrázek vygenerované na prompt „Year 2008. Woman on the street has stumbled over something and is falling forward at a steep angle. Her hands are stretched forward. The woman has tied ginger-colored hair and is dressed in unwashed worn crop silk t-shirt and worn pencil mini skirt wearing espadrilles shoes. Industrial metallic robot with many pistons and wires working as human resources manager. Robot is calmly standing inside office building in opened doors. Woman is outside building on the street fired from job. Robot's hand is raised pointing up and showing woman to leave. Robot is quite angry. Robot is having letters „H.R.“ on his chest. It is rainy weather, outside, everything is cloudy. Woman is not skinny. People are watching them from windows on the first floor and laughing.“ a jeho iterace.
