BIS se chystá na zneužití umělé inteligence: „Je to dobrý služebník i velké riziko.“

Bezpečnostní informační služba se připravuje na rizika spojená s rozmachem umělé inteligence a deep fake videí. Kontrarozvědka také podle svého šéfa Michala Koudelky posiluje svou kompetenci v oboru, navýšení rozpočtu BIS však kvůli těmto novým hrozbám zatím nutné není: „V tuto chvíli jsme plně saturováni, dostali jsme to, co potřebujeme, a vím, že když budeme potřebovat víc, tak peníze navíc dostaneme,“ říká Koudelka.

Umělá inteligence otvírá útočníkům mnohé nové možnosti, říká ředitel Bezpečnostní informační služby Michal Koudelka. „Tak, jak tu teď sedím, mne může někdo natočit a udělat to tak, že budu mluvit arabsky, svým hlasem a budu říkat, že podporuji hnutí Hamás. Udělá to úplně jednoduše a může to poslat do celého světa. To je obrovský problém a obrovské riziko umělé inteligence,“ upozornil tento týden na konferenci o společenské odolnosti vůči hybridním hrozbám.

Ne za všemi falešnými videi v českém veřejném prostoru ale stojí umělá inteligence (AI). Dezinformátoři si zatím vystačí i s kreativním střihem. To je i případ hned několika falešných videí s prezidentem Petrem Pavlem.

„Videa s generálem Pavlem, přinejmenším většina z nich, prokazatelně pocházela z Ruska. Technologie, která byla použita při jejich přípravě, nebyla umělá inteligence, avšak bylo to velmi dobře, velmi dovedně sestříhané video. Až vstoupí do hry umělá inteligence, a nebude to tak dlouho trvat a dnes už její použití stoupá, bude velmi těžké, respektive ještě těžší to odhalit,“ řekl na zmíněné akci ředitel BIS Koudelka.

Umělá inteligence je velmi dobrý služebník, ale pokud ji proti nám použije náš protivník, náš nepřítel, tak riziko je zásadní a velké. Připravujeme se na to, spolupracujeme se špičkovými odborníky.

O válce s Ruskem

Falešných, dezinformačních videí s generálem Pavlem vzniklo několik. První ještě před prezidentskými volbami.

Sestřih vložil Petru Pavlovi do úst větu, že pomoct Ukrajině můžeme tak, že „vstoupíme do války s Ruskem“, ve skutečnosti však dnešní prezident na dotaz, zda nemůžeme přímo pomoci ukrajinské armádě, odpovídal, že to „nejde takhle udělat, protože pokud bychom to tak udělali, vlastně vstoupíme do války s Ruskem“. ZDE je porovnání upraveného videa a s originálem.

Jiné, relativně nové video koluje na platformě Tik-Tok a odtud se dostává dále do veřejného prostoru.

V něm jsou slova prezidenta Pavla upravena tak, že mimo jiné „říká“: „Ukrajina dříve či později tento boj prohraje a vyhraje Rusko, je třeba se na to dívat realisticky (…) Začínají nás mnohem více než tohle pálit ceny pohonných hmot, potravin (…) Válka na Ukrajině jako by nás už trochu zatěžovala“.

Upozornění: Toto video je falešné

@pepekarna „Ukrajina dříve či později tento boj prohraje a vyhraje Rusko. Je potřeba se na to dívat realisticky. Je potřeba vzít v úvahu, že Rusko je velká země, která má své legitimní bezpečnostní zájmy ve svém blízkém příhraničí. Začínají nás mnohem víc než to pálit ceny pohonných hmot, potravin, možná znovu nárůst cen energií. A válka na Ukrajině jako by nás už opravdu trochu zatěžovala,” prohlásil česky prezident Petr Pavel v paralelním vesmíru. Jedná se o fake news o skutečné události, která se sice nestala, ale mohla by. #petrpavel #prezidentpavel #ukrajina #vtip ♬ оригинальный звук – pepekárna

Rizika zneužití umělé inteligence česká kontrarozvědka podle ředitele Michala Koudelky nepodceňuje: „Ten problém je velmi vážný, hovoří se o tom v celém světě, na všech úrovních. Umělá inteligence je velmi dobrý služebník, ale pokud ji proti nám použije náš protivník, náš nepřítel, tak riziko je zásadní a velké. Připravujeme se na to, spolupracujeme se špičkovými odborníky.“

Ideologie, peníze i nevědomost

Koudelka na konferenci zdůraznil, že bezpečnostní složky zajímají dezinformace spojené s cizí mocí, s nepřátelskou propagandou zaměřenou proti Česku, nikoli „obecná vyjádření kohokoli k jakémukoli tématu“.

„Vím, jak je demokracie křehká, a vím, že je nutné ji bránit včetně svobody slova. Právě proto ale musíme proti nepřátelské propagandě bojovat a nedovolit, aby protivník oslabil naši zemi,“ řekl Koudelka.

„Určitě nikdo nechce, aby se kdokoli u nás bál vyjádřit vlastní názor. O ochraně svobody slova ovšem často mluví ti, kdo adorují Rusko a Čínu, kde využití práva na svobodu slova znamená perzekuci nebo vězení,“ dodal.

České dezinformační prostředí podle BIS přejímá teze ruské propagandy a dezinformační mašinerie spíše samovolně:

„V zásadě není nikým řízeno, je roztříštěné, tematicky flexibilní a provázané s antisystémovou politickou scénou, vůdčí figury se rychle střídají,“ vypočítává Koudelka s tím, že domácí původci dezinformací jsou vedeni ideologickými důvody, snahou získat veřejnou pozornost a tím i finanční profit, ale roli hraje i nevědomost.

Přímé vměšování zvenčí – z Ruska – je v tuzemské dezinformační scéně podle Koudelky v menšině, přesto se prokazatelně děje:

„Příkladem jsou právě ona fake videa a s prezidentem Pavlem opakovaně vypouštěná do veřejného prostoru. To je velmi závažné, i proto, že terčem je nejvyšší ústavní činitel. S příchodem AI tato rizika velmi narůstají.“

I v českém veřejném prostoru se teď objevují po slovenském vzoru otitulkovaná videa s Putinem, kde se šíří idea panslovanství, vzájemnosti a spojení s Ruskem.

Video jako útok na psychiku

Politoložka Eva Klusová, která se věnuje problematice dezinformací, vzdělávání a analýze psychologických vlivových operací, na konferenci upozornila na to, že zásobárnou propagandy a dezinformačních videí je v ohromné míře sociální síť TikTok. Řada videí se šíří i řetězovými maily a WhatsAppem.

„Třeba deep fake video se slovenskou prezidentkou Čaputovou, kde „oslovuje“ nejrůznější menšiny, nebinární, LGBT a tak dále, působí velmi věrohodně i díky tomu, že je v malém rozlišení, ale tvář a hlas prezidentky je zřetelný. Je to na hranici schopnosti použít kritické myšlení. Zejména senioři nemají v podstatě šanci to rozlišit od reality,“ říká Klusová.

Jak dodává, na dezinformační scéně jsou videa jako formát obecně velmi populární a nemusí být ani falšovaná, jen se vybírají vyhovující pasáže, často mimo kontext a silně emociálně působící:

„Sledujeme teď velkou vlnu propagandy, jež má podpořit hnutí Hamás. Obsahuje silné psychologické spouštěče: krutost, lítost, strach. Do našeho prostředí prosakují i otitulkovaná videa s Donaldem Trumpem, která mají stovky tisíc zhlédnutí. Někdo je přeloží, sestříhá a šíří třeba ta, kde Trump straší jadernou válkou v případě, že on nebude zvolen prezidentem. Nová superstar české dezinformační scény je slovenský premiér Robert Fico. Otitulkovaná videa s jeho výroky o Ukrajině jsou běžně a ve velkém v tiktokovém feedu.“

Videa jsou podle ní obecně lákavá, emotivní, rychlá, stručná a lépe a důkladněji působí na lidskou psychiku i podvědomí.

„I v českém veřejném prostoru se teď objevují po slovenském vzoru otitulkovaná videa s Putinem, kde se šíří idea panslovanství, vzájemnosti a spojení s Ruskem. Nebo video, kde Putin – opět s českými titulky – tvrdí, že se v Česku vyrábějí střely s ochuzeným uranem. Na Slovensku to fungovalo dobře, řada lidí vyjadřovala obavy lidí z radiace, tak proč to nezkusit i v Česku,“ konstatuje Klusová.