Proč nesmíme stavět autonomní válečné roboty | Kapitola 5
Seznam kapitol
Tento týden, v úterý 28. července 2015, byl zveřejněn otevřený dopis vědců a vývojářů z oblasti umělé inteligence a robotiky, který požaduje zákaz vývoje a výroby autonomních zbraňových systémů. Pokud by se na půdě OSN podařilo zákaz prosadit, vražední roboti by se ocitli na seznamu zakázaných zbraní vedle biologických a chemických.
Jenomže má také celou řadu stinných stránek. V současné době je největším rizikem omyl, který je v moderní válce, vedené na velké vzdálenosti, zcela běžný. Stává se operátorům, stává se automatickým systémům. Při testech akusticky naváděných protivrtulníkových raket v 80. letech se stalo, že raketu zaujal ventilátor blízké nemocnice více než cvičný cíl. Fenomén palby do vlastních (friendly fire) je dnes velice rozšířený, občas se střílí do spojeneckých vojáků, občas do civilistů – třeba proto, že jedou na kole a na zádech mají něco divného, co by třeba mohla být zbraň. Z několikakilometrové dálky nerozeznáte, jestli v dodávce jede rodina anebo tlupa teroristů. Pokud to nerozezná školený operátor, který má na lince specialisty rozvědky a za sebou zkušeného velitele, jak má něco takového rozeznat robot?
Úplně klasickým příkladem je případ Iran Air Flight 655. Jde o kauzu sestřeleného Airbusu A300 B2-203, který byl při letu z Bandar Abbas do Dubaje 3. července 1988 sestřelen křižníkem USS Vincennes. Zahynulo 290 lidí, z toho 66 dětí – a příčina? Omyl posádky, která dostala smíšené informace z počítačového systému. Ten si pozoruhodným způsobem spletl odpovídač startujícího Airbusu s vojenským F-14A Tomcat, který roloval po runwayi na témže letišti a od toho okamžiku vyhodnocoval let civilního letadla, jako by šlo o vojenskou F-14A. Posádka křižníku operujícího v Perském zálivu vyhodnotila blížící se civilní letadlo jako potenciální nálet a po několika neúspěšných pokusech o kontakt reagovala v časové tísni odpálením rakety SM-2MR, která letadlo zničila. Představte si, že máte křižník v plné bojové pohotovosti, vybavený celou řadou senzorů a školenou posádkou - a přesto si dokáže v napjaté situaci a časové tísni splést civilní letadlo s F-14A. Co by udělal robot?
Další rizika nastanou v situaci, kdy se autonomní systém dostane „mimo běžné parametry funkce“. V roce 1989 došlo k bizarní nehodě, kdy po startu MiGu-23M z polské základny začal motor letounu ve výšce asi 150 metrů ztrácet výkon. Pilot Nikolaj Skuridin se katapultoval, nicméně motor běžel dál a letadlo se zapnutým autopilotem pokračovalo v letu západním směrem. Přeletělo Polsko, Německou demokratickou republiku, při překročení hranic Západního Německa bylo zachyceno radary a vzlétly k němu záchytné stíhačky.
To, co následovalo, bylo zajímavé hned ze dvou důvodů: Za prvé, automatika letadla viditelně nebyla vůbec připravena na alternativu, že ho pilot opustí. (U vojenského letadla je to asi pochopitelné, ale i ta létají i v míru a v takovém případě by se autopilot nějak inteligentně zachovat měl.) Za druhé, na situaci „máme letadlo bez pilota“ nebyli připraveni ani vojenští piloti NATO a netušili, co s takovou situací dělat. Pokusili se nechat letadlo „doletět až do Atlantiku“, to ale bohužel nevyšlo, letadlo spadlo v Belgii na dům a zabilo tam člověka.
Komentáře naleznete na konci poslední kapitoly.
