ŠAVŠ Studie 2020

zidle? Máme vůbec mandát k tomu, abychom předem stanovili, který lidský život má v dané situaci dostat přednost? Problém tkví v tom, že autonomní vozidlo v sobě skutečně musí mít předem nade- finovaný algoritmus, který určí, koho v případě kolize zachránit. Osobně však vnímám jako velmi problematické, aby někdo dopředu systému určil, že má upřednostnit např. posádku ve vozidle před chodcem (Drachovská, 2019). Ergo stanovil, že vyšší váhu má život osob na palubě automobilu. Každý lidský život má stejnou váhu a nikdo z nás ne- disponuje oprávněním rozhodnout o životě a smrti druhých. Avšak nějaké řešení přijít musí… K tomu, abychom alespoň částečně zmírnili negativní etické aspekty kolize „ro- bota“, bude nutné přijmout závěr, jenž bude odrážet všeobecný společenský konsenzus při pohledu na věc. V této souvislosti by se dalo uvažovat o určité modifikaci známého experimentu tramvajového dilematu (Foot, 1967), přičemž soudím, že se před zahájením provozu plně autonomních aut musíme testu obdobného typu podrobit obligatorně. Tato práce si však neklade za cíl podat uspokojivou odpověď na vyvstávající etické otázky. „Dilema samořiditelného automobilu” si musí vyřešit nejprve každý sám v sobě. K tomu účelu byl vyvinut test s názvem Moral Machine, 76 který na simulovaných situacích umožňuje vyzkoušet si obtížnou roli „soudce a kata”. 5.7 Závěr Zprávy o stavu a pokrocích vývoje umělé inteligence mohou budit dojem, že nastala doba, kdy žijeme životy obdobné životům hrdinů sci-fi a fantaskních románů. Musíme ale zůstat nohama na zemi a uvědomit si, že ani svět autonomních vozidel není světem dokonalým, tedy světem bez chyb, zkratů a selhání. Navíc když se v reálném pro- vozu budou setkávat „řidiči-roboti” s řidiči smrtelníky. Nikdo a nic, světa informačních technologií nevyjímaje, není dokonalý. Proto se právo musí opět chopit své úlohy a sta- novit základní pravidla vztahu člověka (v postavení uživatele služby autonomní mobili- ty) a stroje (jako komplexu řízeného pomocí automatizovaných softwarů a algoritmů). Stejně jako motorové vozidlo nepojede bez benzínu či nafty, nepojede to autonomní, aniž bychom tomu uzpůsobili stávající svět. Vzhledem k narůstající autonomii inteligentních systémů a intenzitě používání informačních a komunikačních technologií bude změna stávajících právních pravi- del nutná. Mezi nezbytné kroky patří v prvé řadě pojmové uchopení autonomního vozidla a na to navazující změna dikce ProvPozKom. Poté musí následovat vymezení obecného standardizačního rámce bezpečnostních požadavků pro výrobu a provoz autonomních vozů. Nevyhnutelně nutné je dále postavit najisto režim odpovědnost- ních vztahů . V neposlední řadě pak pozornosti nesmí uniknout otázka zpracování dat , kterými bude vozidlo jednak vybaveno, jednak na základě jejich sbírání ze svého okolí, jednak na základě jejich vytvoření prostřednictvím tzv. strojového učení. Všechny úpra- vy by přitom měly vycházet z mezinárodních standardů tak, aby vozidla byla navzájem kompatibilní i v okamžiku překročení hranic České republiky.

76 Test Moral Machine k dispozici zde: http://moralmachine.mit.edu/.

146