Proč nesmíme stavět autonomní válečné roboty | Kapitola 4

Kybernetika se sice fakticky zrodila už za hellénské éry a byla pojmenována v první polovině 19. století, opravdu se ale začala rozvíjet hlavně za Druhé světové války. Tehdy se ukázalo, že existuje řada velmi těžkých vojenských problémů, které se řeší ručně jen krajně obtížně, ať už jde o plánování logistiky, dekódování kryptografie anebo například koncept plně automatického protiraketového systému. Rakety V2, které dopadaly na Londýn, byly konvenčními prostředky nezasažitelné. Už v té době se zrodila představa plně automatického systému, který by zcela samostatně přilétající rakety sledoval, odpaloval na ně protirakety a naváděl je.

Představa autonomně naváděných hlavic byla rozvíjena už za Druhé světové války. Slavný psycholog B. F. Skinner přišel s představou protilodních střel, které by řídili holubi. Ti byli napodmiňováni tak, aby udržovali loď v okénku přímo před sebou a prováděli korekci ťukáním zobáku. Bizarní návrh s názvem Project Orcon (takéž nazývaný Project Pigeon) v praxi sice fungoval, ale námořnictvo se vůči němu stavělo skepticky a projekt byl v roce 1944 zrušen. Holubi se přece jenom mají tendenci vracet domů, co když to nějaký z nich otočí i s raketou?

Podobnou myšlenku měli i Japonci, ale ti se rozhodli řídit své vzdušné i námořní střely pomocí jiných Japonců. U nich alespoň nehrozilo, že by si vybrali špatný cíl. Automatické počítačové řízení, tak jak ho vidíme v raketách dnes, je z tohoto hlediska etickým pokrokem vpřed, protože válečné úsilí nově nežádá pravidelné dodávky ani vycvičených holubů, ani vycvičených Japonců. Nenechte se však mýlit, o podobném sebevražedném využití lidí uvažovali na konci Druhé světové války i Němci a rovněž i později Rusové. (Opravdu, mám knížku pro piloty, ve které se rozebírá etické dilema taranu v případě, že stíhací pilot nemůže střílet a má před sebou bombardér potenciálně vyzbrojený jadernou zbraní.)

V řadě případů se bez řídící elektroniky prostě neobejdeme – jako je například protiraketová obrana, která vyžaduje extrémně rychlé a extrémně přesné navádění. Moderní zbraně mají další nepopiratelné výhody: Drony mohou být kompaktní, rychlé, mají dlouhou výdrž, zvládají vyšší přetížení při manévrování a je nižší riziko pouštět je do oblastí promořených protiletadlovými zbraněmi nepřítele. Když si pročtete text otevřeného dopisu, tak zjistíte, že se v něm ale nemluví o podobných zbraních. Mluví se v něm o zcela autonomních zbraních, tedy těch, které se rozhodují úplně samostatně.

Normální dron má na lince operátora, který vyhodnocuje cíl a přebírá (alespoň teoreticky) zodpovědnost za jeho zničení. Autonomní robot se rozhoduje samostatně – a je otázkou, kdo vlastně nese zodpovědnost za to, co udělá. Opět – autonomní zbraň má svoje nepopiratelné výhody, například je schopná fungovat v zarušeném prostředí anebo v situaci, kdy se nepřítel pokouší zbraně na dálku hacknout. Také je kompletně „fire and forget“, neprozrazuje se komunikací a autonomní roboty lze vypouštět ve velkých počtech.