ZAJIŠŤOVÁNÍ V TRESTNÍM ŘÍZENÍ 2024

6.8 Deepfakes 6.8.1 Co to jsou deepfakes

Současný nástup nových technologických možností vyplývající zejména z možnos tí nástrojů AI výše uvedenou situaci ale ještě více znesnadňuje a komplikuje. A to proto, že možnosti obtížně zjistitelné či vůbec nezjistitelné manipulace s důkazy či do konce vytváření stop falešných, neexistujících, vytváří zcela nové požadavky na kvalitu kriminalistických procesů a dokazování v rámci trestního procesu. Nový termín „ deepfake “ je kombinací anglických slov „ deep learning “ (hluboké učení) a „ fake “ (falzifikát, padělek). Deepfakes jsou jednoduše obsahy vytvořené po mocí umělé inteligence, které napodobují reálné osoby, věci, situace, obvyklé fotogra fie, videa nebo audio nahrávky, které byly vytvořeny nebo upraveny pomocí algoritmů umělé inteligence a strojového učení tak, aby vypadaly a zněly jako reálná osoba či věc. Cílem je často dosáhnout takové úrovně realističnosti, že je pro běžného pozorovatele obtížné rozlišit skutečný obsah od falšovaného. Druhy deepfakes mohou zahrnovat: 1. Výměnu tváře či postavy, kde je tvář a/nebo postava jedné osoby nahrazena tváří či postavou někoho jiného. 2. Imitace (klonování) hlasu, kdy pokročilé algoritmy dokážou napodobit hlas konkrétní osoby, což umožňuje vytvořit audio záznamy, ve kterých se zdá, že osoba říká věci, které ve skutečnosti nikdy neřekla. 3. Komplexní úpravy osob a věcí na fotografiích či videozáznamu, kdy v případě osob tyto dělají určité pohyby nebo akce, které nikdy neprovedly, případně mění výrazy tváře a emoce, aby odpovídaly jinému kontextu nebo scénáři (za dání padělatele). 4. Komplexní syntetické generování, které zahrnuje vytváření zcela fiktivních, ale realisticky vypadajících postav nebo scén – statických i dynamických, včetně zvuků. Dopad jednoho deepfake není omezen na jeden typ nebo kategorii rizika, ale spíše na kombinaci kaskádových dopadů na různých úrovních, přičemž mohou mít škodlivý, klamavý a dokonce destruktivní potenciál: 1. když se deepfakes zaměřují na jednotlivce, dopad často začíná na individuální úrovni; 2. deepfakes mohou být vytvářeny a distribuovány se záměrem způsobit širokou škálu finančních škod; 3. před stava o existenci deepfakes, dobře zacílených deepfakes nebo kumulativních efektech deepfakes může vést k vážným škodám na společenské úrovni.

84