Deepfake, jedna z novějších forem umělé inteligence, se stává čím dál tím víc populární. Využití technologie, jež umožňuje úpravu fotografií, videonahrávek či audionahrávek, je stále dostupnější, a to i díky zjednodušeným nástrojům v podobě mobilních a webových aplikací. To dnes poskytuje i běžným uživatelům možnost vytvářet a šířit upravený obsah, což vyvolává řadu otázek spojených s negativními dopady deepfake. Na rizika upozorňují také autoři článku Fighting Deepfakes: Media and Internet Giants’ Converging and Diverging Strategies Against Hi-Tech Misinformation, kteří se ve své práci zabývají tím, jak se vybraná média a společnosti vypořádávají s touto novou formou fake news.
Autoři
Autoři článku Ángel Vizoso, Martín Vaz-Álvarez a Xosé López-García působí na Univerzitě Santiago de Compostela a zároveň jsou členy výzkumné skupiny Novos Medios, která se zaměřuje na komunikaci a média. Důraz je kladen především na studium digitálních médií, nových technologií, ověřování faktů v online prostředí a strategie médií v boji proti dezinformacím zvláště pak v kontextu Mobile Journalism.
Článek Fighting Deepfakes byl publikován v časopise Media and Communication jako součást vydání „Disinformation and Democracy: Media Strategies and Audience Attitudes“. Je složen ze dvou částí. Zaprvé zpracovává všechny relevantní příspěvky k tématu deepfake dostupných do roku 2021 (celkem 54 vzorků, především akademických textů a prezentací z mezinárodních konferencí), druhou část tvoří případová studie, ve které se autoři rozhodli analyzovat tři média – The Wall Street Journal, The Washington Post a Reuters a tři společnosti – Google, Facebook a Twitter. Na základě volně dostupných zpráv a vyjádření zkoumali jejich postoje a přístupy k deepfake obsahům.
Co to je deepfake?
Samotné slovo deepfake je kombinací anglického „deep learning“ a „fake“ a popisuje digitální manipulaci s obrazem, videem nebo zvukem, jejíž výsledek je velice realistický. Ačkoli je mnoho způsobů, jak by mohla být technologie deepfake lidem prospěšná, negativní využití zatím bohužel převažuje. Je zaznamenáno velké množství šíření dezinformací, případů podvodů, vydírání či deepfake pornografie.
Autoři uvádějí čtyři základní formy deepfake obsahu:
- Face swapping (záměna tváře jedné osoby za druhou)
- Face re-enactment (manipulace s rysy v obličeji)
- Face generation (vytvoření zcela nové tváře)
- Speech synthesis (úprava projevu nebo vytvoření zcela nového projevu)
Strategie The Wall Street Journal, The Washington Post a Reuters
Na pokrok v oblasti umělé inteligence musela média zareagovat, každé si však zvolilo poněkud odlišný přístup. Deník The Wall Street Journal sestavil speciální tým novinářů, jejichž úkolem bylo odhalovat a vyvracet dezinformace vytvořené právě pomocí deepfake technologie. Mezi jejich hlavní metody patřilo zkoumání zdroje, jeho identifikace a věrohodnost, vyhledávání a porovnávání starších verzí fotografií, záběrů či audionahrávek dostupných online a využívání programů určených k detekci úprav.
Deník The Washington Post se rozhodl označovat příspěvky podle míry zjištěných úprav. První kategorie značí chybějící či úmyslně změněný kontext, druhá znamená klamavou úpravu a třetí úplnou transformaci obsahu s úmyslem škodit.
Agentura Reuters si vybrala úplně odlišný přístup, začala spolupracovat se společností Facebook s úmyslem společně se zasadit o odhalování deepfake příspěvků, který se na této sociální sítí šíří. K této spolupráci došlo v roce 2020, tedy v době před prezidentskými volbami ve Spojených státech amerických, kdy byl v rámci předvolební kampaně zaznamenán velký nárůst upraveného obsahu.
Strategie Google, Facebook a Twitter
Spolupráce médií a internetových platforem se ukázala jako výhodná a nadále pokračuje. Vedle ní však velké společnosti mají iniciativu předvídat a snaží se jít cestou prevence. Společnost Facebook financuje různé výzkumné projekty a také spustila svou vlastní akci s názvem „Deepfake Detection Challenge“, která si klade za cíl urychlit vývoj nových způsobů odhalování deepfake. Společnost Google se rozhodla zpřístupnit velké množství svých dat, které mají pomoci vývojářům k vytvoření programu, který by s jistotou dokázal identifikovat upravený obsah a také aktivně spolupracuje s DARPA. Nejméně proaktivní je platforma Twitter, která se rozhodla na upravený obsah upozornit, případně jej doplnit o odkazy na relevantní zdroje, či jej jednoduše smazat.
Závěr
Autoři článku dochází k závěru, že naše společnost zatím nedisponuje dostatečně účinnými nástroji pro detekci deepfake a zamýšlejí se nad tím, jakou roli v tom mohou hrát finance. Velcí technologičtí giganti, kteří si mohou dovolit investovat vyšší částky do výzkumu technologií rozpoznávajících deepfake obsah tak samozřejmě činí, otázkou však je, s jakým záměrem. Média takové prostředky nemají a autoři se ptají, zda jejich hlas, který by se měl zasazovat především o zkvalitnění žurnalistiky, nebude chybět. Jejich další spolupráci do budoucna ale nevylučují. Dále je zdůrazněno, že dosavadní výzkum se zaměřuje spíše na důsledky šíření deepfake. Ty se dle autorů týkají nejen jedinců, ale také národní bezpečnosti a demokracie. To vede k situaci, ve které se vlády snaží zavádět mechanismy kontroly společností s mediálním vlivem, ty se naopak snaží o co největší samoregulaci. Výsledkem je pak řada drobných kompromisů a nárůst role mediálních organizací, které se snaží o mezinárodní fact-checking.
Na závěr je nutno dodat, že v tomto výzkumu byl využit deskriptivní přístup a jeho závěry byly zjištěny u velmi malého a západně orientovaného vzorku.
Článek
Vizoso, Ángel, Vaz-Álvarez Martín a Xosé López-García. „Fighting Deepfakes: Media and Internet Giants’ Converging and Diverging Strategies Against Hi-Tech Misinformation“. Media and Communication 1, č. 9 (březen 2021): 291–300, https://doi.org/10.17645/mac.v9i1.3494 (staženo 21.4.2023).
78774678
Mediální proroci 