Technologie speciálních efektů zaznamenala v posledních několika desetiletích opravdový rozmach, kdy se CGI posunula od primitivně hrubé a primitivní k téměř k nerozeznání od reality. Nyní, jak se vytváření věrohodných obrazů stává stále běžnějším, političtí vědátoři i odborníci na trestní soudnictví očekávají paniku kolem takzvané „falešné“ technologie, která má potenciál dále komplikovat probíhající mezinárodní diskusi o „falešných zprávách“. Ale co přesně je „falešný“ a jak velkou hrozbu bude tato technologie v budoucnu představovat?
učitelé sexu se svými studenty
Technologie Deep Fake (někdy stylizovaná jako „deepfake“) označuje syntetizované a / nebo překrývající se obrazy a / nebo videa vytvořená umělou inteligencí pomocí existujících obrázků a videí. Pomocí strojového učení by tato technologie mohla teoreticky vytvořit přesvědčivé záběry osoby provádějící čin, ke kterému ve skutečnosti nikdy nedošlo.
Owen Williams, profesionální softwarový inženýr a umělec vizuálních efektů, nabídl jednoduché vysvětlení.
'Je to způsob, jak pomocí automatizovaného softwarového systému nahradit tvář člověka ve videu jinou tváří, která je mnohem automatičtější a přesvědčivější, než bylo možné s předchozí technologií,' řekl Williams Oxygen.com .
Williams poznamenal, že tradiční populární filmy jako „Jurský park“ a „Blade Runner: The Final Cut“ používají počítačový software pro určité scény způsoby, které mohly být předchůdcem hlubokých padělků: „Ve filmovém průmyslu je to opravdu běžné. Řekněme, že máte postavu, která potřebuje kaskadérský kousek, a raději byste viděli jejich tvář. Klasickým řešením by bylo, že byste je viděli pouze zezadu, nebo by jejich vlasy byly v obličeji, takže byste nemohli říct, že je to dvojitý. Ale je tu docela zapojená historie filmařů, kteří používají počítače k tomu, aby postavili tvář herce nad kaskadérskou dvojku. “
'Býval to velmi manuální proces,' pokračoval Williams. „Nyní pomocí technologie falešných zpráv nakrmíte počítač dvěma věcmi: Nejprve video, které nahradíte, a pak spoustu vstupů do tváře, kterou nahradíte. Musíte získat dostatek obrazů osoby, která dělá různé výrazy obličeje a z různých úhlů. Vytváříte knihovnu toho, jak může tvář této osoby vypadat v různých situacích, a poté počítač projde a podívá se na video. Nepotřebuje ani přesnou shodu. Může přebrousit a proměnit to, co má v knihovně, aby vyhovovalo tomu, co potřebuje. To, co dříve vyžadovalo desítky umělců stovky hodin, aby se nyní pokusily provést opravdu komplikovaný efekt, je nyní jen stisknutí tlačítka. “
Jednou z aspektů této technologie, která znepokojuje lidi, je skutečnost, že člověk nemusí nutně ochotně odevzdat svou tvář, aby mohl být tento proces proveden, vzhledem k tomu, kolik obrázků většiny lidí - zejména celebrit a politických osobností - existuje online.
'Existuje dostatek obrázků jakékoli celebrity v dostatečných úhlech, abyste tuto knihovnu mohli vytvořit [bez souhlasu],' řekl Williams. 'K tomu je zapotřebí určité množství práce, ale pro každou okrajově populární postavu tyto věci budou existovat.' Mám pocit, že je méně pravděpodobné, že by to bylo možné pro běžného člověka. “
Koncem roku 2017 se na fórech Reddit objevila první hluboká falešná videa, podle Variety . Uživatel tvrdil, že použil svůj počítač k vytvoření vysoce realistických pornografických videí různých osobností zapojených do sexuálních aktivit, které se ve skutečnosti nikdy nestaly v reálném životě. Uživatel tvrdil, že nakrmil svůj počítač tisíci fotek hvězd, ze kterých umělá inteligence mohla získávat zobrazené výrazy obličeje a pohyby. Aplikace používaná falešnými tvůrci a sdílená na Redditu byla nakonec stažena více než 100 000krát. (Reddit nakonec zakázal tento druh obsahu s tím, že porušil jejich politiku týkající se „nedobrovolné pornografie“. podle The Verge .)
Realismus, kterého může toto médium v tuto chvíli dosáhnout, Williams zpochybňuje.
'Pokud jste někdy sledovali některý z těchto hlubokých padělků ... je tam určitá divnost,' řekl Williams. 'Nejsou vyleštěné.' Pravděpodobně to bude lepší a lepší, zejména proto, že Hollywood má zájem na tom, aby to bylo automatizováno, spíše než platit drahé umělce. ““
Podobně to Williams uhodl panika kolem hlubokého falešného porna , měnící se kulturní postoje k povaze věcí, jako je porno pomsty nebo uniklé nahé obrázky, znamenají, že je pravděpodobné, že lidé, kteří vytvářejí tento druh médií, budou odsouzeni a nebudou oslavováni, a to ani v zábavním průmyslu pro dospělé.
'Nikdy to nebude mainstream,' domníval se Williams. 'Po ' Fappening „Na Redditu se stala věc, lidé dokázali změnit konverzaci a říci:„ To není skandál, je to sexuální zločin. “ Takže nevidím, že by se z toho stal skandál, jak si lidé myslí. Lidé mohou také poměrně snadno najít původní pornografii, ze které byl vytvořen hluboký falešný, což znamená, že je poměrně snadné jej odhalit. “
dostal Richard Jewell osadu
Ale není to jen znepokojení, protože by to mohlo být použito k vytvoření falešného porno celebrit. Lidé se také obávají politických důsledků.
O šíření hlubokých padělků začali političtí vědci psát v roce 2018. Článek pro Guardian od listopadu téhož roku zaznamenal virové šíření videa, které údajně zachycuje prezidenta Donalda Trumpa povzbuzujícího belgický národ k odstoupení od Pařížské dohody o klimatu. To podnítilo širší diskusi o potenciálu různých vlád využít tuto technologii v masových dezinformačních kampaních, což byla konverzace, která již byla zahájena díky probíhajícímu vyšetřování ruského zapojení do prezidentských voleb v USA v roce 2016.
Panika kolem hlubokých padělků dokonce inspirovala redakční radu společnosti Bloomberg Media Group, aby se k této záležitosti vyjádřila silně formulovaným způsobem.
„Videozáznamy se staly pilířem systému trestního soudnictví ... právě proto, že film vypadá jako spolehlivý záznam něčí řeči nebo jednání. Hluboké podvody mohou tyto důkazy reálně podezřívat, “ oni psali v červnu 2018. „Nejdůležitější výzvou tedy bude identifikace a vyvolání těchto padělků - pokud je to možné.“
Williams souhlasil s tím, že povaha hlubokých padělků ohrožuje naše představy o „realitě“, pokud jde o videozáznamy, ale poznamenal, že tento právní bažina není pro naši současnou digitální krajinu jedinečný.
„Trochu to přijde na tuto myšlenku, že lidé mají to video, které se rovná pravdě, což se nikdy nestalo. Věděli jsme to už od Rodneyho Kinga. Nebo přemýšlejte Eric Garner : Lidé si mysleli, že [důstojník, který ho zabil], je nevinný bez ohledu na to, jaké video z incidentu předpovídá. Zdá se mi [mnoho obav z hlubokých padělků] poněkud neopodstatněné. “
Williams uvedl několik dalších incidentů, které nezahrnovaly hlubokou falešnou technologii, které ukázaly, jak bylo video směle manipulováno, aby naklonilo veřejné mínění o věci, Kontroverzní šíření ACORN od Jamese O'Keefeho a nedávné zahrnutí skandálu zfalšované video údajně zachycující reportéra CNN Jima Acostu, jak útočí na zaměstnance Bílého domu .
Williamsovým konečným závěrem bylo, že hysterie kolem hlubokých padělků je poněkud přehnaná.
„Vidím, že se děje, že to bude fungovat oběma způsoby. Pokud video vyjde a bude skutečné, lidé budou tvrdit, že je falešné. Pokud vyjde video a je falešné, lidé budou tvrdit, že je skutečné. Každý případ předpokládá určité množství pravdy přiřazené videu [samotnému]. Je těžké vědět, jakým směrem se to bude ubírat. Pokud Pee páska ve skutečnosti vyšlo, víte přesně, co by se stalo: Polovina lidí by řekla: „To jsou býci - to je nějaký herec!“ a polovina lidí by řekla: „Tady to je! To je reálné!' Takže by se opravdu nic nezměnilo. To se obvykle stává s novými technologiemi: Věci se nemění tolik, jak si lidé myslí. “
[Foto: SAUL LOEB / AFP / Getty Images]
