Cenzura je druhá nejhorší věc, kterou můžeme naučit AI | Kapitola 4
Seznam kapitol
Pravděpodobně se všichni shodneme na tom, že to úplně nejhorší, co můžeme AI naučit, je zabíjení lidí. Hned za ní je ale ta druhá nejhorší věc, kterou AI učíme už teď – a opravdu bychom to dělat neměli. Jde o to, jak umlčovat lidi – jde o cenzuru.
Zapeklité problémy cenzury internetu
A s tím nám dorazila cenzura i do prostoru Webu 2.0. Web 2.0 je ale rozsáhlý a jeho cenzura je složitá. Otázka taky je, jak ho vlastně cenzurovat, když je globální a každý jeden stát hrozí globálním společnostem různými sankcemi za různé věci. A tak se nám do nich vloudila o poznání rozsáhlejší cenzura, kterou bych už ve svobodném světě nečekal.
Dnes skutečně existují tabu, klíčová slova a jména, která když napíšete na Facebook, můžete čekat postih. Já před dvěma lety nasdílel článek o občanu Velké Británie, Jehož Jméno se Nesmí Vyslovit – a přestože šlo pouze o odkaz a to o dva roky starý a navíc na mainstreamové médium, přiletěl mi postih. Zíral jsem, protože jsem netušil, že něco takového po roce 1989 ještě uvidím!
Cenzura se nám rozrůstá – a více a více lidí s tím má přímou zkušenost. Nedávno o tom natočil video Dan Vávra. Je to video dvě a půl hodiny dlouhé, nicméně velmi dobře zpracované a poslouchatelné i jako podcast, takže se na to podívejte. Rozebírá tam problematiku cenzury systematicky – já vám ho přeříkávat nebudu, dejte si to sami.
Ty nejzávažnější pointy, které bych přece jenom vypíchl, jsou tyto:
1) „Dezinformace“ tu byly vždycky, šířily se i v dobách, kdy lidi neuměli ani číst.
2) Cenzura nikdy nefunguje, protože lidi jen upozorní na to, že o něčem nesmí mluvit.
3) „Dezinformace“ nejsou podstatné, podstatný je rozpor mezi oficiální doktrínou a tím, co lidi sami vidí kolem sebe.
4) Cenzura slouží těm, kteří vládnou – a ti, kteří ji jeden den tleskají, se klidně druhý den probudí na té špatné straně.
Aspekt, o kterém Dan nemluví, je ten technologický. Vize z románů, jako je Orwellův 1984, jsou klasickým způsobem nerealizovatelné: Takový sledovací systém by vyžadoval spousty dozorců. Lidé mají v románu doma obrazovky, které neslouží k jejich informaci, ale k indoktrinaci a kontrole. A hlídači se na vás dívají, vždycky se dívají. Nikdo nebude podvádět ani při cvičení!
Orwellovy vize jsou naopak zcela realizovatelné, pokud dozor nebudou dělat lidé, ale stroje. Když na lidi dohlížejí lidi, někdo musí dohlížet na ty dohlížející. Umělá inteligence je ale škálovatelná – když je lidí víc, přidá se větší výpočetní kapacita. AI není člověk, je to jiná kvalita – a na ni nikdo dohlížet nemusí. Ideální Velký Bratr není žádný Neohitler, Neostalin a nebo Neomarx – je to hlídací AI.
To, co nebylo realizovatelné za nacistů a komunistů, začíná být realizovatelné teď. Dnes, když chcete přestat generovat digitální stopu, musíte se opravdu snažit. A vtip je v tom, že digitální stopy se dají sledovat tak masově, že už dnes musíme zabudovávat bezpečnostní prvky do aplikací, abychom měli alespoň jakousi míru soukromí a jistoty, že nebude použita proti nám.