Proč nesmíme stavět autonomní válečné roboty | Kapitola 7

Nebezpečné je vyrábět i autonomní ozbrojené policejní roboty. Na počátku roku 2014 došlo v americké Georgii k „videohernímu“ incidentu, kde hráč nebyl pachatelem, ale obětí. Sedmnáctiletý Christopher Roupe slyšel večer klepání na dveře, ptal se, kdo to je, nedostal odpověď a tak se šel podívat. Bohužel držel v ruce kontrolér pro Wii, což policistka stojící za dveřmi po otevření okamžitě vyhodnotila jako zbraň a jedním výstřelem do hrudi mladíka zabila.

O této kauze se u nás nepsalo, pravděpodobně proto, že jak policistka, tak mladík byli bílí a hráč byl tentokrát obětí. V rámci kontextu je nutno dodat, že se událost stala v chudší čtvrti a policistka přišla večer do domu zkontrolovat dodržování podmínečného propuštění jiného člena rodiny. Její reakce byla rychlá a automatická: Tvrdila, že za dveřmi slyšela zvuk zbraně a proto svoji zbraň vytáhla a hned střílela. Poté, co zjistila svůj omyl, se zhroutila. Porota upustila od jejího trestního stíhání a nechala vyrovnání mezi rodinou a městem na civilním soudu.

Reagoval by robot lépe? A co by bylo u autonomních policejních robotů lepší: Aby měli unifikovaný firmware a dělali stejná rozhodnutí a stejné chyby anebo aby se každý učil zvlášť a dělal svoje chyby? Kdo by za rozhodování robota zodpovídal? Výrobce? Vývojář firmware? Nadřízený policejní důstojník? Město, které roboty nasadilo?

To vše jsou problémy, které se týkají blízké budoucnosti. Řada firem, která se zabývá vývojem AI, na tuto výzvu podezřele mlčí, což naznačuje, že se na podobných projektech už aktivně podílí. Jsou v tom zajímavé peníze, zvláště když se nasazení zabijáckých dronů a robotů prodá veřejnosti tak, že budou působit jen v cizích zemích, kde budou šetřit naše cenné životy. Problém je ale v tom, že dříve anebo později je získá „i ta druhá strana“ a s tím, jak se jejich cena bude snižovat, budou čím dál tím dostupnější.