Víme, že vás reklamy otravují, můžete nezávislou žurnalistiku podpořit i jinak, například prostřednictvím systému Darujeme.cz.
Demonstrace odpůrců vládních protikoronavirových opatření, Staroměstské náměstí, Praha, říjen 2020
Jan Zátorský / MAFRA / Profimedia,

Hluboké lži jsou dokonalejší a nebezpečnější. Rozdělují společnost až k občanským nepokojům

Nejde jen o neškodná videa nebo pornografické materiály s tvářemi celebrit. Takzvané „hluboké lži“, deep fakes, mohou vyvolat i občanské nepokoje a polarizovat společnost. Právě před podobnými hrozbami umělé inteligence varuje ve své poslední zprávě evropský policejní úřad Europol.

Deepfakes jsou zjednodušeně řečeno falešná videa vytvářená počítačem. Vznikají pomocí deep learningu, tedy strojového učení v sítích umělé inteligence.

Ve svých počátcích nebyla tato technologie příliš rozvinutá a rozeznání falešného videa od pravého nebylo tak složité. V současné době už ale pravost videa nelze bez odborného zkoumání ověřit, na což upozorňuje i Europol.

Pro lepší představu je dobré uvést několik známých příkladů. Celosvětově známým se stalo třeba video s Barackem Obamou, na kterém mluví hanlivě o prezidentu Donaldu Trumpovi. Dalším příkladem mohou být slova šéfa Facebooku Marka Zuckerberga o ovládání miliard lidí skrze ukradená data. V českém prostředí se pak za pokus o deep fake dá označit známé třeba video s „Milošem Zemanem a čínskou stařenkou“ (o autorech a okolnostech vzniku jsme psali ZDE).

S tím, jak se technologie vyvíjí a zlepšuje, je odhalování deepfakes videí stále složitější a nákladnější. Běžní uživatele internetu takový podvod rozšifrovat téměř jistě nedokážou.

Až místo celebrit přijdou politici

Europol proto naléhá, aby orgány činné v trestním řízení v jednotlivých členských zemích – zejména pak policie – investovaly do vývoje a využívání technologií, které jsou schopné falešná videa odhalit.

Některá taková videa jsou zatím jen vtipná a „nezávadná“. Čím dál častěji se však objevují upravená pornografická videa s falešnými obličeji. Například společnost Deeptrace, která se zaměřuje právě na využívání umělé inteligence v oblasti deepfakes, v září 2019 zaznamenala 15 tisíc deepfakes videí, což byl oproti předešlému roku dvojnásobný nárůst. Celých 96 % z těchto videí pak bylo pornografických, přičemž z toho celých 99 % zobrazovalo celebrity.


Text Lukáše Hendrycha vyšel původně na serveru Euractiv, s nímž HlídacíPes.org spolupracuje.


Europol ale upozorňuje, že neustále narůstá i riziko politické. Právě politicky motivovaná deepfakes videa mohou podle něj v budoucnu vyvolávat i občanské nepokoje nebo posilovat politickou polarizaci mezi uživateli internetu, a to pomocí šíření falešných zpráv a projevů známých politiků, které se budou zdát jako pravé.

Experti ve zprávě rovněž varují, že strůjci těchto videí se stále zdokonalují a učí se, jak současné monitorovací a ověřovací techniky přelstít.

„Deepfakes v tomto ohledu mohou představovat velkou výzvu současným forenzním audiovizuálním analýzám a ověřovacím technikám, které v současné době využívají příslušné orgány, média nebo neziskový sektor,“ uvádí zpráva Europolu.

Nešetřete a učte se

„Nezbytné jsou nejen významné investice k vytvoření nových monitorovacích technologií, které budou vyhledávat manipulace a nesrovnalosti ve vizuálním a zvukovém obsahu, ale i pravidelná aktualizace těchto technologií. Je třeba reflektovat vývoj technologií, které deepfakes videa vytváří,“ uvádí dále zpráva. Její autoři také píší, že při vytváření takových technologií mají policejní a jiné orgány spolupracovat i se soukromými společnostmi v oblasti technologického průmyslu.

EU by mohla představit konkrétní legislativní návrhy pro boj proti deepfakes v rámci „Aktu o digitálních službách“ (Digital Services Act, DSA, pozn. red.). Tento komplexní balíček návrhů bude pokrývat celou škálu oblastí, od moderování online obsahu na sociálních sítích přes zadávání politických reklam, regulaci algoritmů či reformu pravidel hospodářské soutěže v oblasti internetu.

Evropská komise návrh představí v prosinci, některé zdroje tvrdí, že DSA by mohl obsahovat i možnosti, jak bojovat proti hrozbám spojeným s deepfakes.

Kromě DSA se má problematice dezinformací a falešných zpráv obecně věnovat zejména Akční plán pro demokracii (European Democracy Action Plan), který má Komise zveřejnit rovněž v prosinci.

Tato iniciativa se konkrétně zaměří na problematiku zahraničního vlivu a zasahování do demokratických procesů v Evropě právě pomocí šíření dezinformací a fake news.

Je však málo pravděpodobné, že by některý z těchto návrhů přikázal on-line platformám dezinformační a falešný obsah mazat.

„Pokud jde o boj proti dezinformacím a škodlivému obsahu obecně, měli bychom se zaměřit spíše na to, jak je tento obsah vytvářen a šířen mezi lidmi než tlačit na jeho povinné odstraňování,“ uvedla před nedávnem místopředsedkyně Evropské komise pro hodnoty a transparentnost Věra Jourová.

Líbil se vám tento text? Pokud nás podpoříte, bude budoucnost HlídacíPes.org daleko jistější.Přispět 50 KčPřispět 100 KčPřispět 200 KčPřispět 500 KčPřispět 1000 Kč

LockPlatbu on-line zabezpečuje Darujme.cz

26 komentářů

  1. Tondach napsal:

    Není divu, když nejvíc lžou prezident a premoér…

  2. petrph napsal:

    To je sice hezké, jenomže, tohle je právě jeden z příkladů, jak se politika plete do práva.
    Antož, on to jistě technický problém je, a dají se s tím i dělat podvody. Jenomže, z právního hlediska, soud v případě podvodu odsoudí pachatele, až když bude mít přesně doloženého poškozeného a taky přesně doloženou výši škody. Že by ten soud řešil, jestli někdo jenom parodoval politika – a co z toho, na ty by musely být naprosto jiné paragrafy..

  3. A. S. Pergill napsal:

    Výkon počítačů a možnosti běžně dostupného SW neustále rostou, včetně dostupného zdarma. Bojovat proti tomu je asi stejné, jako když dal ve středověku papež do klatby trojnožku, o niž si opřel ruku s lukem lukostřelec a zpřesnil se jeho výstřel. Do klatby byla později dána i kuše. Když se objevil střelný prach, tak už ho snad nikdo do klatby, vzhledem k naprosté neúčinnosti těch předchozích, nedal 🙂 Prostě musíme si zvyknout na to, že jakékoli video může být podvodné. Jako jsme si museli zvyknout na to, že cokoli je napsané (i oficiálně vytištěné), může být lež. A v praxi to bude znamenat mj. i to, že videa přestanou být použitelná jako důkaz před soudem (nebo by se to urychleně mělo stát), případně budou použitelná pouze v určitém kontextu či situaci.

    • jiri napsal:

      Videa nebo audia samozřejmě budou použitelná jako důkaz u soudu dál, jen si někdo bude muset dát práci s jejich autentizací – stejně jako u písemností. Co jde zamotat, to jde i rozmotat. Podobná AI, která faked video vytvořila, ho zase bude schopná jako fake rozpoznat.

      • A. S. Pergill napsal:

        Bojím se, že tento proces (vytváření a rozpoznávání) je silně asymetrický. Je to víceméně obdoba klasického „souboje třely a pancíře“. A obávám se, že přijde doba, kdy i elektronický podpis bude prolomitelný.

  4. Oskar (hanák z Hané) napsal:

    Ano, některé „hluboké lži“ vedou nejen k občanským nepokojům, ale přímo k revolucím. Příkladem je „naše sametová“, která má ve vínku lež o mrtvém studentovi Martinu Šmídovi.
    (DENÍK.cz z 15.11.2014: Spouštěčem listopadových událostí byla falešná zpráva o mrtvém studentovi Martinu Šmídovi. Později vyšlo najevo, že jím byl agent StB Ludvík Zifčák, který vystupoval pod falešnou identitou.)
    Bývalý agent StB Ludvík Zivčák dnes v Karlově Studánce na Bruntálsku s manželkou provozuje hotel.

    • M. Culek napsal:

      Politický převrat by byl i bez Zifčáka. Hroutilo se to všude.

    • jiri napsal:

      Evidetně jste pojem „deep fake“ nepochopil.

      • Oskar (hanák z Hanák) napsal:

        Deep fake? Mně je opravdu jedno, co si vy po tím představujete Vy, já také nepíši o nějaké deep fake, ale o skutečné lži, puštěné do veřejného prostoru, jejíž lživost byla nezvratně všemi příslušnými místy a úřady opakovaně prokázána.

  5. petrph napsal:

    Bohužel, ještě jeden komentář, každému vřele doporučuji článek na Novinky.cz „..Francie je na nohou po brutálním zákroku policie. Obětí je známý producent“..
    Ono už potom je doufám jasné, že boj proti fake-news ve stylu „věřte pouze oficiálním zprávám (státních institucí) a opačné informace označujte šmahem za lež, je dosti pochybný, ale za druhé, jak vidno je navíc dosti nejisté (jak doporučeno z Brusele nahoře v článku) ponechat právě policii pravomoc aby sama rozhodovala, která videa jsou ta pravdivá a která ne., když některá z nich zobrazují právě její nelegitimní činnost..

  6. Pláčil napsal:

    Ty dezinformace a hlouposti tady především šíří naše pomatená vláda, jedna z nejhorších v dějinách ČR a prakticky navazující na Komunistickou stranu před 90.rokem. Zase míříme do propadliště dějin s Stbákem a dalšími neschopnými a prolhanými politiky. Za řízení celé epidemie, hlavně těmi nesmysly, co vymýšlí, co by nevymyslel blbec z pomocné školy, by měla stanout před soudem. To, že se jednoho dne probudíme a kasa bude úplně prázdná, to mnohým nedochází a jako úplné stádo trotlů jdou zdejší lidé vstříc úplnému krachu.

    • M. Culek napsal:

      Máte pravdu. Nezbývá, než abyste to vzal do rukou vy.

    • Oskar (hanák z Hané) napsal:

      TGM řekl, že státy se udržují idejemi, na kterých vznikly. Při vzpomínce na klíčovou situaci z listopadu 1989, tedy fiktivní smrt studenta Martina Šmída a „ideu“ , která z toho v lidech vznikla – studenty, naše děti, nám vraždit nebudete soudruzi, nezbývá než konstatovat, že tento stát, Česká repiblika, vznikl na lži a podvodu. Dnešní poměry, prakticky ve všem, potvrzují, že se udržuje opravdu tou ideou – podvodným jednáním každého vůči každému, podváděním všude, kam oko dohlédne (i kam nedohlédne!), kamkoli vejdeš …

  7. Petr Kaminsky napsal:

    No, to jsou starosti. Jak to bylo v Basnicich – dej blbci funkci a vymysli lejstro. Uplne to vidim, jak osazenstvo nove vytvorenych anti-deep-fakes uradu rozhoduje o tom, co je pravda a co lez. Prestavam se divit odpurcum EU. V trestim zakoniku mame paragrafy na vrazdu a lidi se presto dal mordujou.

    • Světlonoš napsal:

      Jasně, proto bude lepší vraždy z trestního zákoníku vyjmout. A bude lepší proti deep-fake vůbec nic nedělat, naopak si je radostně sledovat a věřit, že tím nastane ráj na zemi.

      • A. S. Pergill napsal:

        Asi něco dělat ano, ale dělat něco tak blbě je spíš „antidělání“. Což je pro EU dosti charakteristické i v jiných oblastech. Ideální zbraní proti „fake“je pravdivost, úplnost a upřímnost oficiálního zpravodajství, ne které se lidé mohou spolehnout. Průšvih ovšem je, že současná oficiální média jsou natolik pošpiněna lhaním, překrucováním a zapíráním, že jim prostě věřit nelze a lidé se pídí po pravdivých informacích jinde. Změnit by to mohlo jedině dlouhodobé provozování toho, co jsem uvedl výš, ale to by snad ani se stávajícím osazenstvem nebylo možné.

  8. Admirál napsal:

    „Hluboké lži jsou dokonalejší a nebezpečnější. Rozdělují společnost až k občanským nepokojům“

    Ano naprostá pravda. Třeba převrat na Ukrajině v roce 14 byl ukázkový příklad, co „hluboké lži“ dokáží.

    • Velitel námořnictva napsal:

      Jaké hluboké lži? Značná část Ukrajinců se již dále nechtěla nechat ovládat Ruskem. Bez této vůle by žádný politický převrat proběhnout nemohl.

      • josef napsal:

        Necelý rok a půl před první hromadnou „nespokojeností“ části obyvatel Ukrajiny bylo mj. na Ukrajině ME ve fotbale a to nejen v Kyjevě (finále), ale i ve Lvově, Doněcku, Charkově, apod. Viděl jste tam tehdy v té zemi nějaké záminky budoucích nepokojů ?. Navíc poté co Janukovyč uletěl do Rostova, tak v dobu byl ve funkci asi v polovině a souhlasil s novými volbami jak s prezidentskými tak i parlamentními, ale to jaksi nechtěli demonstranti, protože jejich cca 4 měsíční trvání by mělo skončit – to prohlásil Andrij Parubij (neformální vůdce a syn -v té době předsedy- Národní rady Ukrajiny). A pak už tam nastal pořádek, že ?

        • ČERT napsal:

          Jenom k tomu „tehdy v té zemi nějaké záminky budoucích nepokojů“…
          Tak aspoň pokud vím, tak tam třeba tehdy, tuším, nizozemští fotbaloví fanoušci (nebo nějací aktivisté) rozvinuli transparent, požadující propuštění tehdy uvězněné bývalé premiérky Tymošenkové. Asi známo, že Tymošenková byla odsouzena a uvězněna kvůli pro Ukrajinu nevýhodné smlouvě s Ruskem, týkající se nákupu zemního plynu. Rusko se tehdy celkem pochopitelně stavělo proti procesu s Tymošenkovou, a na druhou stranu se proti tomu, jako něčemu podezřelému, stavěla i oficiální politika EU.
          Tak jistě tohle nebyl impuls k tomu, co tam začalo někdy v listopadu 2013, ale když tu pak krátce po Majdanu byl Janukovyč prezentován (třeba v některých rozhlasových reportážích) prakticky jako padlý diktátor, tak myslím, že mu mj. i tohle bylo předhazováno.

    • Oskar (hanák z Hané) napsal:

      To je přesný a správný postřeh. Také mě ten článek vyvolal vzpomínku na válku proti Iráku, britský expremiér John Major se za deep fakes o zbraních hromadného ničení dokonce veřejně omluvil, zatím co americká strana to dodnes neudělala a lže o kde čem dál.

  9. Eduard napsal:

    Lži, obviňování, korupce, špatné soudnictví, nevymahatelnost práva, zneužívání politické funkce, to je právě to, co slouží k tomu, aby se tyto negativní věci stále více a více prožírali do společnosti. My jsme právě nad propastí, kam tímto chováním směřujeme, a které nejvíce podporují náš estébácký premiér a stařecký a neschopný prezident. Daleko nedojdeme, ale bohužel to je pozůstatek zločinecké organizace – Komunisté strany, která zde zanechala opravdu hodnotné morální dílo! Jak se chová vláda, tak se většinou chovají ti, co jí slouží a volí!

  10. Oskar (hanák z Hanák) napsal:

    To je přesný a správný postřeh. Také mě ten článek vyvolal vzpomínku na válku proti Iráku, britský expremiér John Major se za deep fakes o zbraních hromadného ničení dokonce veřejně omluvil, zatím co americká strana to dodnes neudělala a lže o kde čem dál.

  11. deep fake napsal:

    Je deep fake informace,že Evropský soud pro lidská práva zakázal ČR zrušit azyl Čečenci,který se v ČR dopustil velmi závažných trestných činů a vypovědět jej z ČR do Čečenska s tím, že by tam s ním bylo nakládáno podle čečenských zákonů? A je deep fake informace z Austrálie/BRD,Francie…/, že česká verze exekučního zákona neexistuje nikde jinde v západní civilizaci?

  12. deep fake napsal:

    Je deep fakem informace, že Šarapatka požadoval odvolat kontrolní komisi Rady ČT už v loňském roce a letos byl jedním ze dvou členů Rady ČT který byl „velmi hlučně a zásadně“ proti jejímu odvolání?

  13. petrph napsal:

    Jestli bych si dovolil to napsat ještě jednou obecně. Ono je vůbec problém, že i EU dává tu rozhodovací pravomoc určovat co je a co není deepfake a bojovat proti nim zase jen bezpečnostním silovým složkám stáu, podřízených (přes min vnitra) vládě. Přičemž sama ta EU upozorňuje že v některých státech EU (Polsko, Maďarsko) právě vlády nedodržují základní práva. Stejně, jako u nás (z našeho pohledu) je dost podivné, že by tuto pravomoc měla mít vláda pana Babiše (se Zemanem za zády), s politickou podporou komunistů, přes ministra vnitra ovládající tu doporučovanou policii? Není náhodou v tom ten zásadní omyl , který se EU může vymstít? Ostatně, jak zmíněno výše, i ve Francii s tím mají problémy…
    A jestli by to třeba nemohlo být jinak, že by k nějakým EU vytvořeným decentralizovaným prostředkům těchto zjištění nemohly mít přístup spíše nezávislá média? Ale o to asi ani v Bruseli zájem nemají, co kdyby třeba došlo i na ně…

Přidávání komentářů není povoleno