Mají roboauta zabíjet ve jménu většího blaha lidstva? | Kapitola 6
Seznam kapitol
Automatická auta se blíží a s nimi se vynořila řada obskurních testů, díky nimž mohou youtubeři přežít další týdny. Jsou založené na komplikovaných rozhodováních: Je lepší zabít posádku robovozu, nebo napálit do autobusu a ohrozit jeho pasažéry? Smést děti ze školky, anebo důchodkyně pomáhající v charitě? Jaký smysl ale mají taková dilemata?
Kompletní etický kalkulus je u autonomních automobilů víceméně fikcí a možná je i zbytečný. V případě krize si mohou automobily vyměnit informace o tom, kolik lidí který z nich veze, ale těžko půjde o spekulace na úrovni Moral Machine zmíněné na začátku. V Německu právě vznikl první etický kodex pro vozy s autonomním řízením, podle kterého si vozy nesmí vybírat, čí život je cennější a v žádném případě nemohou převzít řízení proti vůli řidiče.
Základním bezpečnostním mechanismem bude neustálá bdělost, přesné výpočty garantující bezpečné rozestupy, nicméně bude do značné míry unifikovaná. To naopak zvyšuje jiná rizika – když víte, jak automatická auta reagují, zvyšuje se pravděpodobnost úspěšného útoku proti nim. Když útočník ví, jak se auta standardně chovají, může proti nim standardně útočit. Výhodou ale je, že pokud se stále chovají jako příslušníci roje, mohou předávat informace o rizicích dál a i když napadené vozidlo nemůže komunikovat s centrálou, mohou opět informace broadcastovat mezi sebou a tvořit tak jakýsi komunikační mesh. Úplná a zcela autonomní umělá inteligence pak bude hrát roli spíš ve zcela zvláštních případech, kolaborativní inteligence může naopak výrazně prospět bezpečnostním složkám v tom, že bude jednotně a koordinovaně spolupracovat.
Ostatně – když jste dělali řidičák, učili jste se převážně dopravní předpisy a standardní reakce na standardní situace, nezkoumali jste filozofické otázky, koho přejet místo někoho jiného. Takové úvahy jsou spíš tématem na diskuse v autonomních autech, až v nich nebudete mít dlouhé hodiny co dělat.