BIS se chystá na zneužití umělé inteligence: „Je to dobrý služebník i velké riziko.“
Bezpečnostní informační služba se připravuje na rizika spojená s rozmachem umělé inteligence a deep fake videí. Kontrarozvědka také podle svého šéfa Michala Koudelky posiluje svou kompetenci v oboru, navýšení rozpočtu BIS však kvůli těmto novým hrozbám zatím nutné není: „V tuto chvíli jsme plně saturováni, dostali jsme to, co potřebujeme, a vím, že když budeme potřebovat víc, tak peníze navíc dostaneme,“ říká Koudelka.
Umělá inteligence otvírá útočníkům mnohé nové možnosti, říká ředitel Bezpečnostní informační služby Michal Koudelka. „Tak, jak tu teď sedím, mne může někdo natočit a udělat to tak, že budu mluvit arabsky, svým hlasem a budu říkat, že podporuji hnutí Hamás. Udělá to úplně jednoduše a může to poslat do celého světa. To je obrovský problém a obrovské riziko umělé inteligence,“ upozornil tento týden na konferenci o společenské odolnosti vůči hybridním hrozbám.
Ne za všemi falešnými videi v českém veřejném prostoru ale stojí umělá inteligence (AI). Dezinformátoři si zatím vystačí i s kreativním střihem. To je i případ hned několika falešných videí s prezidentem Petrem Pavlem.
„Videa s generálem Pavlem, přinejmenším většina z nich, prokazatelně pocházela z Ruska. Technologie, která byla použita při jejich přípravě, nebyla umělá inteligence, avšak bylo to velmi dobře, velmi dovedně sestříhané video. Až vstoupí do hry umělá inteligence, a nebude to tak dlouho trvat a dnes už její použití stoupá, bude velmi těžké, respektive ještě těžší to odhalit,“ řekl na zmíněné akci ředitel BIS Koudelka.
Umělá inteligence je velmi dobrý služebník, ale pokud ji proti nám použije náš protivník, náš nepřítel, tak riziko je zásadní a velké. Připravujeme se na to, spolupracujeme se špičkovými odborníky.
O válce s Ruskem
Falešných, dezinformačních videí s generálem Pavlem vzniklo několik. První ještě před prezidentskými volbami.
Sestřih vložil Petru Pavlovi do úst větu, že pomoct Ukrajině můžeme tak, že „vstoupíme do války s Ruskem“, ve skutečnosti však dnešní prezident na dotaz, zda nemůžeme přímo pomoci ukrajinské armádě, odpovídal, že to „nejde takhle udělat, protože pokud bychom to tak udělali, vlastně vstoupíme do války s Ruskem“. ZDE je porovnání upraveného videa a s originálem.
Jiné, relativně nové video koluje na platformě Tik-Tok a odtud se dostává dále do veřejného prostoru.
V něm jsou slova prezidenta Pavla upravena tak, že mimo jiné „říká“: „Ukrajina dříve či později tento boj prohraje a vyhraje Rusko, je třeba se na to dívat realisticky (…) Začínají nás mnohem více než tohle pálit ceny pohonných hmot, potravin (…) Válka na Ukrajině jako by nás už trochu zatěžovala“.
Upozornění: Toto video je falešné
@pepekarna „Ukrajina dříve či později tento boj prohraje a vyhraje Rusko. Je potřeba se na to dívat realisticky. Je potřeba vzít v úvahu, že Rusko je velká země, která má své legitimní bezpečnostní zájmy ve svém blízkém příhraničí. Začínají nás mnohem víc než to pálit ceny pohonných hmot, potravin, možná znovu nárůst cen energií. A válka na Ukrajině jako by nás už opravdu trochu zatěžovala,” prohlásil česky prezident Petr Pavel v paralelním vesmíru. Jedná se o fake news o skutečné události, která se sice nestala, ale mohla by. #petrpavel #prezidentpavel #ukrajina #vtip ♬ оригинальный звук – pepekárna
Rizika zneužití umělé inteligence česká kontrarozvědka podle ředitele Michala Koudelky nepodceňuje: „Ten problém je velmi vážný, hovoří se o tom v celém světě, na všech úrovních. Umělá inteligence je velmi dobrý služebník, ale pokud ji proti nám použije náš protivník, náš nepřítel, tak riziko je zásadní a velké. Připravujeme se na to, spolupracujeme se špičkovými odborníky.“
Ideologie, peníze i nevědomost
Koudelka na konferenci zdůraznil, že bezpečnostní složky zajímají dezinformace spojené s cizí mocí, s nepřátelskou propagandou zaměřenou proti Česku, nikoli „obecná vyjádření kohokoli k jakémukoli tématu“.
„Vím, jak je demokracie křehká, a vím, že je nutné ji bránit včetně svobody slova. Právě proto ale musíme proti nepřátelské propagandě bojovat a nedovolit, aby protivník oslabil naši zemi,“ řekl Koudelka.
„Určitě nikdo nechce, aby se kdokoli u nás bál vyjádřit vlastní názor. O ochraně svobody slova ovšem často mluví ti, kdo adorují Rusko a Čínu, kde využití práva na svobodu slova znamená perzekuci nebo vězení,“ dodal.
České dezinformační prostředí podle BIS přejímá teze ruské propagandy a dezinformační mašinerie spíše samovolně:
„V zásadě není nikým řízeno, je roztříštěné, tematicky flexibilní a provázané s antisystémovou politickou scénou, vůdčí figury se rychle střídají,“ vypočítává Koudelka s tím, že domácí původci dezinformací jsou vedeni ideologickými důvody, snahou získat veřejnou pozornost a tím i finanční profit, ale roli hraje i nevědomost.
Přímé vměšování zvenčí – z Ruska – je v tuzemské dezinformační scéně podle Koudelky v menšině, přesto se prokazatelně děje:
„Příkladem jsou právě ona fake videa a s prezidentem Pavlem opakovaně vypouštěná do veřejného prostoru. To je velmi závažné, i proto, že terčem je nejvyšší ústavní činitel. S příchodem AI tato rizika velmi narůstají.“
I v českém veřejném prostoru se teď objevují po slovenském vzoru otitulkovaná videa s Putinem, kde se šíří idea panslovanství, vzájemnosti a spojení s Ruskem.
Video jako útok na psychiku
Politoložka Eva Klusová, která se věnuje problematice dezinformací, vzdělávání a analýze psychologických vlivových operací, na konferenci upozornila na to, že zásobárnou propagandy a dezinformačních videí je v ohromné míře sociální síť TikTok. Řada videí se šíří i řetězovými maily a WhatsAppem.
„Třeba deep fake video se slovenskou prezidentkou Čaputovou, kde „oslovuje“ nejrůznější menšiny, nebinární, LGBT a tak dále, působí velmi věrohodně i díky tomu, že je v malém rozlišení, ale tvář a hlas prezidentky je zřetelný. Je to na hranici schopnosti použít kritické myšlení. Zejména senioři nemají v podstatě šanci to rozlišit od reality,“ říká Klusová.
Jak dodává, na dezinformační scéně jsou videa jako formát obecně velmi populární a nemusí být ani falšovaná, jen se vybírají vyhovující pasáže, často mimo kontext a silně emociálně působící:
„Sledujeme teď velkou vlnu propagandy, jež má podpořit hnutí Hamás. Obsahuje silné psychologické spouštěče: krutost, lítost, strach. Do našeho prostředí prosakují i otitulkovaná videa s Donaldem Trumpem, která mají stovky tisíc zhlédnutí. Někdo je přeloží, sestříhá a šíří třeba ta, kde Trump straší jadernou válkou v případě, že on nebude zvolen prezidentem. Nová superstar české dezinformační scény je slovenský premiér Robert Fico. Otitulkovaná videa s jeho výroky o Ukrajině jsou běžně a ve velkém v tiktokovém feedu.“
Videa jsou podle ní obecně lákavá, emotivní, rychlá, stručná a lépe a důkladněji působí na lidskou psychiku i podvědomí.
„I v českém veřejném prostoru se teď objevují po slovenském vzoru otitulkovaná videa s Putinem, kde se šíří idea panslovanství, vzájemnosti a spojení s Ruskem. Nebo video, kde Putin – opět s českými titulky – tvrdí, že se v Česku vyrábějí střely s ochuzeným uranem. Na Slovensku to fungovalo dobře, řada lidí vyjadřovala obavy lidí z radiace, tak proč to nezkusit i v Česku,“ konstatuje Klusová.
Nová kniha HlídacíPes.org
Publikace vyjde v omezeném nákladu. Pořízením publikace podpoříte projekt HlídacíPes.org.
Kniha nebude ve volné distribuci. Lze ji získat pouze jako poděkování za dar v minimální výši 599 Kč.
Knihu začneme distribuovat krátce před 17. listopadem 2024.
Více o knizePořídit knihuPop-up mobil Mobile (207451)
SMR mobil článek Mobile (207411)
SMR mobil článek 2 Mobile (207416)
SMR mobil článek 2 Mobile (207416-2)
SMR mobil článek 2 Mobile (207416-3)
SMR mobil pouze text Mobile (207431)
Recommended (5901)
Čtěte též
Skyscraper 2 Desktop (211796-4)
11 komentářů
Je možné že ukáže na 95% ( AI) zkorumpovaných úředníku této vlády , co s tím bude tento stát dělat ?
A co míníte dělat, když ukáže na 100% zkorumpovanost úředníků vlády Andreje Babiše?
Jistěže i za Babiše nějaká korupce byla, ale teď je výrazně vyšší.
Ano je. V Agrofertu. Nebo v Praze v Babické ulici 2329/2.
Skeptiku, obecně platí, že čím více trhu, tím méně korupce. V čistě tržní společnosti žádná korupce není, protože by neměla žádný smysl. A je to právě vláda Fialy a spol, která přidává stále více antitržních prvků do ekonomiky, a tím zvyšuje množství situací, kdy je korupce smysluplná a kdy přináší i vyšší užitek.
Vzpomínám si, že „více trhu“ v devadesátých letech, stejně jako vy nyní, propagoval a praktikoval Václav Klaus. Byla u nás tehdy taková korupce, že se nám z toho dělalo nevolno. Pouze vy a lidé vám podobní se cítili dobře a ona masivní korupce, ještě větší než v dobách komunismu, jim vyhovovala.
Skeptiku, prakticky všechny kauzy z té doby byly zaviněny absencí čistě tržních vztahů.
Vzpomínám si, jak jste ve svých příspěvcích právě tuto dobu vychvaloval do nebe Pergille/Šimůnku. A právě v souvislostech s touto dobou jste psal o vládě „tržního“ hospodářství. A nyní vidím, že píšete něco o absenci tržních vztahů v této době. Je vidět, že jste z toho Pergille/Šimůnku už opravdu volaaký zmätený, když si takto silně šlapete na jazyk. A co horšího, ani zdaleka to není poprvé.
Skeptiku,
ano, měli jsme tehdy podstatně tržnější ekonomiku než máme nyní. Nicméně nebyla stoprocentně tržní, a tak mohla vzniknout např. kauza LTO, protože tatáž látka existovala na trhu pod dvěma různými názvy a za různou cenu. Varianta LTO za podstatně nižší cenu než varianta motorová nafta, což bylo dáno nikoli trhem, ale naopak negramotnými a antitržními zásahy úředníků do ekonomické sféry.
Těch afér Pergille/Šimůnlu bylo tehdy daleko více než LTO. Co jen bylo tehdy různých privatizačních afér korupce plných! A ty negramotné a antitržně zasahující úředníky tehdy řídila vládnoucí ODS s vaším favoritem Václavem Klausem na čele, hlásajícího ono „tržní hospodářství“.
Ten titulek sedí.