Do boje proti „hlubokým lžím“ známým i jako deep fakes, které manipulují audiovizuální obsah s pomocí umělé inteligence, se naplno zapojila i společnost Microsoft. Její nový nástroj má odhalovat manipulace s videem či fotografií. Technologie využívaná pro deep fakes ale nemusí jen škodit. Už dnes se uplatňuje třeba na interaktivních výstavách a šanci má i ve školství.

Microsoft na svém blogu na začátku září zveřejnil informace o novém nástroji Microsoft Video Authenticator. Jde o aplikaci, která má pomáhat odhalit procentuální pravděpodobnost, zda bylo s videem nebo fotografii manipulováno. V případě videa pak bude analyzovat každý snímek a měla by být schopna odhalit také zásah jen do jednotlivých jeho částí.

Nástroj vidí to, co lidské oko ne. Využívá totiž takzvanou analýzu chyb komprese obrazu, čímž dokáže barevně oddělit původní části obrazu od těch uměle přidaných.

Podle Microsoftu je však Video Authenticator pouze dočasně řešení. „Metody manipulace pomocí deep fake budou stále sofistikovanější. Jelikož navíc všechny současné nástroje pro detekci zásahů umělé inteligence do mediálních obsahů mají svou míru neúspěšnosti, musíme být připraveni reagovat na to, že přijdou manipulátoři, kteří nám dokáží proklouznout,“ píše se v textu.

Začalo to u pornografie

O deep fakes se mluví převážně ve spojitosti s hybridní válkou a jejich využitím v mocenském boji. „Hluboké lži“ mohou dále zhoršit situaci kolem dezinformací.

„Už nyní vidíme, jak se různým konspiračním teoriím a falešným zprávám daří ničit důvěru lidí v tradiční média. S deep fakes to může být ještě mnohé horší. Dostávají totiž klasické fake news na vyšší úroveň. Není to už žádná hra, ale věc národní bezpečnosti,“ říká k tématu bývalý americký diplomat Thomas Hanson, který působí na minnesotské univerzitě a tématu falešných zpráv se dlouhodobě věnuje.“

Umělá inteligence totiž dokáže lidem vkládat do úst slova, která neřekli, nebo dělat gesta, která neudělali. To se týká i politiků.

Obětí deep fakes se stal třeba bývalý americký prezident Barack Obama. Režisér Jordan Peele vytvořil video, na kterém Obama nevybíravě kritizuje současného prezidenta Donalda Trumpa. Dlužno říct, že Peele video vytvořil právě jako upozornění na riziko počítačové manipulace a během přehrávání videa se divákům sám odhalil.

V Česku se zase objevilo deep fake video prezidenta Miloše Zemana z produkce HBO GO jako reklama na seriál Bez vědomí. Prezident v něm pronáší státnický projev, ve kterém mimo jiné říká, že je třeba chránit novináře, což by skutečný Zeman známý svými útoky na média zřejmě nikdy neřekl.

https://youtu.be/EJEZpKi3V7I

Počátky deep fakes jsou však spjaty s pornografií. Původně totiž byla metoda využívána v komunitě na sociální síti Reddit pro manipulaci porno materiálu. Uživatelé sítě herečkám ve filmech pro dospělé napasovali tváře hereček z klasických filmů. Tato upravená videa se pak rozšířila i mimo hranice Redditu do porno průmyslu.

Jde to i pozitivně

„Hluboké lži“ ale paradoxně mohou posloužit i dobrému účelu, třeba ve školství. Není těžké si představit využití deep fake v hodinách dějepisu, ve kterých by školákům mohl třeba dění za železnou oponou popisovat první polistopadový prezident Václav Havel.

Další příklad nabízí muzeum holokaustu v americkém státě Illinois. Od roku 2018 si tam mohou návštěvníci pomocí technologií promluvit s přeživšími holokaustu.

S tím, jak se zvyšuje kvalita deep fakes, může tato technika nahradit i počítačovou grafiku CGI ve filmovém průmyslu. V případě předělávek starých filmů nebo jejich pokračování tak v nových verzích do budoucna mohou hrát například stejní herci, kteří vystupovali v těch původních. Diváci se díky tomu nemusí loučit se svými oblíbenými postavami.