Ján Lalka je zakladatel společnosti Surveilligence, specializované forenzní agentury zaměřené na vyšetřování finanční kriminality. Aleš Špidla je prezident Českého institutu manažerů informační bezpečnosti a specialista kybernetické bezpečnosti Generálního finančního ředitelství. Jejich dialog naznačuje, jaké scénáře a trendy převládnou v tomto oboru budoucnosti a co nás čeká.

Rozhovor je součástí knihy Orwell na steroidech, Průvodce chaosem 21. století. Zkrácenou ukázku publikujeme se souhlasem vydavatelství 65. pole a editora knihy Romana Chlupatého. Debaty organizovala poradenská společnost AlterEko.info

Není pochyb o tom, že v současnosti soukromý sektor i státní správa, tajné služby a další instituce denně sbírají informace o tom, jak se chováme, jaké máme návyky, jaká je naše finanční situace, co si myslíme a kdo jsou naši přátelé, případně technické informace, například o naší poloze. Odhalení Edwarda Snowdena o tomto špiclování způsobilo v roce 2013 obrovský šok a zdálo se, že něco musí být napříště jinak. Stalo se? Proběhla od té doby nějaká radikální změna v přístupu lidí k citlivým údajům?

Obávám se, že se nic takového nestalo. Když se zaměříme na to, co o sobě lidé sdělují na sociálních sítích, tak žádnou zásadní změnu nevidíte. Ono bohužel nedošlo k nějaké zásadní změně ve vzdělávacím systému a v osvětě o tom, co na sebe říct, a co ne. Přesto měly činy pana Snowdena jisté pozitivní dopady. Podle mě by se dalo například říct, že byl důležitým prvkem při přijímání GDPR, tedy obecného nařízení o ochraně osobních údajů.

Člověk by spíš čekal, že vzhledem k onomu odhalení budou lidé opatrnější, že začnou víc používat technologie, které je ochrání, že přestanou využívat ty nebezpečné. Vy tedy žádnou změnu ve využívání technologií na ochranu – například používání VPN, anonymizérů, bezpečného vyhledávání na internetu a dalších – nevidíte?

Tyto technologie jsou používány v komerční sféře, ale běžní občané něco podobného nepoužívají takřka vůbec. Obávám se, že mnozí ani nevědí, že něco takového existuje.

Přes silnici na červenou a poslepu

Kdybych vycházel jen z diskusí na internetových fórech, uměl bych si představit, že být svobodný znamená možnost napsat si na internetu cokoli – například i nějaký nenávistný komentář, aniž bych byl potrestán – nebo možnost nakoupit si online v hypermarketu, získat zadarmo libovolný obsah a podobně. Jak si představujete svobodu vy? Jak byste definoval svobodného člověka v rozvinuté digitální společnosti?

Dovolím si citovat Abrahama Lincolna, který říkal, že svoboda bez řádu je chaos a řád bez svobody je otroctví. To podle mě přesně vystihuje, co člověka činí svobodným: to, že ví, co je správné, a co správné není, a podle toho se chová. Já se cítím jako svobodný člověk. Můžu si říkat, co chci, tedy takřka vše, co chci; můžu se pohybovat tam, kde mi to dovolí systém, který vědomě přijímám i s jeho omezeními. Protože i ta omezení považuji za správná, užitečná.

Nemůžu jít se zavřenýma očima na červenou přes rušnou křižovatku, to už je svoboda dotažená do absurdna. Absolutní svoboda neexistuje, a internet už vůbec není místo absolutního dobra a absolutní svobody. Už to, abyste se na internet dokázal připojit, je podmíněno velice přísnými technologickými pravidly. Musíte se připojovat jakýmsi protokolem a s pomocí nějakého zařízení.

Se svobodou se mi spojuje slovo bezpečnost. Tento vztah se mi vybaví zejména tehdy, když si vzpomenu, jak za doby socialismu lidé měnili svou svobodu za relativní pocit krátkodobého bezpečí. I dnes přitom slyším čím dál častěji, hlavně ze strany komunistů nebo socialistů, slova o tom, že je třeba mít hlavně klid na práci. O tom, jak bychom měli přesunout svou důvěru a zodpovědnost na stát, případně řídit stát jako firmu. Jinde se zase osekala svoboda pod heslem boje proti terorismu. Je podle vás možné dnes úspěšně žít, podnikat a působit v naší společnosti a zároveň si udržet tu úroveň svobody, kterou jsme si například užili v devadesátých letech minulého století?

Já si myslím, že ano. Co se týče zmíněného rozhodnutí předávat zodpovědnost státu, tam podle mě existuje nějaká rozumná hranice. Mě spíš děsí předávání zodpovědnosti technologiím. My jsme totiž skutečně v mnoha ohledech svoje rozhodování přesunuli na technologie, zbavili jsme se zodpovědnosti, protože takhle je to pohodlnější. Před příchodem mobilních telefonů jsem si například pamatoval padesát telefonních čísel, teď mám problém se svým vlastním. V tom já vidím jisté omezení a s ním spojenou hrozbu; pokud stát bude mít technologie ve své moci, tak jejich prostřednictvím získává větší a větší kontrolu nad obyvateli.

Jak to tedy bude s naší svobodou v příštích 30 letech? Přijdeme o ni, nebo ji udržíme?

Světoznámý astrofyzik Stephen Hawking těsně před smrtí řekl, že jestli nás něco zahubí, bude to umělá inteligence. A. C. Clarke napsal v roce 1965 povídku A ozve se Frankenstein…, která pojednává o tom, že pokud se spojí do jednoho systému nadkritické množství prvků (v té době to byly telefonní ústředny přes satelitní komunikaci), tak si takový systém uvědomí sám sebe. Zasaďte si to do kontextu obrovského a stále narůstajícího počtu zařízení takzvaného internetu věcí propojených do jednoho systému. A zkuste se zamyslet se nad tím, kde je asi ta hranice, kdy si systém uvědomí sám sebe a začneme mu překážet. Vítejte ve Skynetu…

Se svobodou souvisí soukromí, které je s rozvojem technologií a jejich denním využíváním velmi těžké ochránit. Většinou je to vykoupeno nemalou časovou investicí, nepohodlím, znepřístupněním aplikací a nevyužíváním části technologických výdobytků. Budeme si v budoucnosti muset vybrat mezi soukromím a svobodou?

Obávám se, že to rozhodnutí vědomě nebo podvědomě děláme – či spíše musíme dělat – už teď. Každý člověk by si měl uvědomit, do jaké míry si vykupuje závislost na hračkách tím, že jim předává svoje rozhodování a soukromí. Sociální sítě jsou obrovský byznys. Zpřísněné nároky na ochranu soukromí tento byznys brzdí a snižují jeho výnosy. Proto se provozovatelé sociálních sítí přísnějším pravidlům brání. A radši si schovají nějaké peníze na pokutu.

V tomto kontextu bych také zmínil technologie Velkého bratra, které podle mě patří mezi nejrychleji se rozvíjející, alespoň v rámci IT segmentu. Zajímalo by mě, kdo vlastně pohání rozvoj těchto technologií. Je to stát, nebo soukromý sektor?

Jako vždy je to o velkém byznysu. Každá technologická firma má tendenci jít dopředu, tedy nabídnout kvalitnější kameru, lepší systém pro rozlišování obličeje a tak dále. Vezměte si jen takzvaná smart cities, chytrá města. Ta jsou dnes prošpikována nejrůznějšími senzory, od kamerových systémů po počítání aut na křižovatce a já nevím co ještě. I systém pro řízení parkoviště už umí rozpoznat vaši registrační značku, aby zjistil, jestli jste zaplatil za parkování. A když toto všechno propojíte dohromady, dostanete obrovskou moc. Problém přitom není obrovský objem sesbíraných informací, ale schopnost vytváření korelací mezi nimi.

Já se živím bezpečností, proto musím být paranoidní, jinak bych byl špatný bezpečák. Osobně tedy vidím obrovské nebezpečí také v tom, že se tyto technologie dají napadnout. Představte si systém, který vás směruje na parkoviště: tamto parkoviště je volné, toto plné – a vy si podle toho vybíráte. Když napadnete jen takový jednoduchý systém a všechny pošlete na jedno parkoviště, způsobíte chaos, ve kterém si najednou můžete dělat, co chcete. A takových scénářů je spousta. Vyberte si jakýkoliv obor a já vám do něj vložím katastrofický scénář.

Mobil: ideální špehovací prostředek

Kamerami jsme obklopeni nejen v ulicích a na dálnicích, ale takřka neustále i prostřednictvím notebooků, mobilů, či brýlí. Naše internetové aktivity jsou monitorované a zpětně dohledatelné. Jsou sledovány naše platby, výběry hotovosti a vklady. Stručně řečeno, jsme v podstatě neustále pod kontrolou. Kam se tento Velký bratr dostane za třicet let?

Nemusíme se dívat ani tak daleko. Stačí se podívat do současné Číny, na jejich sociální kreditní systém, který je založen na tom, že jsou občané sledováni, jak se chovají na ulici, vyhodnocuje se jejich postoj k práci a tak dále. Když si dáte na ulici pivo, hned přijdete o nějaké kredity a nekoupíte si pak třeba jízdenku na vlak nebo letenku. V roce 2018 byl takto zablokován nákup letenek a jízdenek 28 milionům občanů Čínské lidové republiky. Jinými slovy, tam toho Velkého bratra dovádějí k dokonalosti.

V jedné továrně například běžel pilotní program, v jehož rámci do pracovních čepic dali zjednodušené EEG vyhodnocující postoje zaměstnanců k práci. To, jak nadšeně přistupují ke stroji a podobně. Pokud se i s tímto vědomím vrátím k vaší otázce, co bude v roce 2050, napadá mě, jestli tady vůbec ještě budeme. Pokud si systém uvědomí sám sebe, zjistí, že tu vlastně jenom tak roztomile překážíme, a prostě nás vypne. Vždyť k tomu stačí například zamknout inteligentní ledničku, že ano…

Přidržme se současnosti a mobilních telefonů, které jsou jedním z nejnebezpečnějších nástrojů. Jde o ideální špehovací prostředek, který o nás sbírá lokalizační údaje, kontaktní, platební, komunikační a další údaje. Kdo ho ovládne, může zaznamenávat naši komunikaci, může nás odposlouchávat a sledovat, co děláme. Část zařízení pak nejspíš má i takzvaná zadní vrátka, neboli odesílají naše data cizím státům, o čemž se spekuluje například v souvislosti s čínským výrobcem Huawei. Jde a půjde o realitu, se kterou je třeba se smířit, nebo je to něco, proti čemu bychom měli aktivně vystupovat, aby to v blízké budoucnosti nebylo ještě horší?

Já se mnoho let snažím nabádat všechny uživatele, ať jsou k těmto technologiím rezervovaní. Stal jsem se tak asi několikanásobným mistrem světa v házení hrachu na zeď. Myslíte si, že po nějaké mé přednášce všichni posluchači demonstrativně vstanou a rozšlapou svoje mobilní telefony? Ani náhodou. Mobilní telefon nám poskytuje pohodlí, zábavu, umožňuje nám vzdálený přístup k práci, dává nám spousty benefitů, kterých se nechceme vzdát. Každý člověk si musí sám zvážit, jak vysokou cenu je ochoten za to zaplatit, nakolik svěří svůj osud do rukou technologií. Jde to i bez nich, já si ještě pamatuji telefony, které byly ke zdi připoutány drátem.

Je tedy klíčem ke zlepšení situace vzdělávání zejména těch lidí, kteří se moc nezajímají o vnější svět, slepě využívají moderní trendy a moc o nich nepřemýšlejí? A jak se k nim případně dostat, jak je přivést k tomu, aby se sami starali o svou bezpečnost?

Jiná cesta než vzdělání není. Já už zhruba deset let volám po tom, aby podobně jako je součástí výuky na základních školách i ve školkách dopravní výchova, což je pohyb v nějakém řízeném systému, byl součástí vzdělávání také pohyb v kyberprostoru. Zatím se to nedaří, a to i proto, že tu chybí kritické myšlení. Schopnost postavit se kriticky k zařízení, technologii a k tomu, do jakého světa se jejím prostřednictvím připojuji. Jenomže podobné kritické myšlení se v Česku neučí (ani) na pedagogických fakultách. Ti, kteří by ho měli učit děti, tak sami nemyslí, pokud to nejsou nadšenci. My přitom musíme mladou generaci naučit nevrhat se po mobilu nadšeně, protože je růžový, je vybavený osmi fotoaparáty, obrovskou pamětí a já nevím čím vším. Je nutné, aby si mladí uvědomili, že mají v ruce nástroj (a často zbraň), ke kterému se musí patřičně chovat. A to tak, aby je nezahubil, aby nezahubili druhého a aby nebyli zahubeni druhým.

Když se vrátím zpět ke sledovacím technologiím, jedna z těch často diskutovaných a bezesporu kontroverzních je rozpoznávání tváře. Už jste zmínil v tomto kontextu Čínu, kde jsou obecně v zavádění sledovacích technologií dál než většina západních zemí. Jaká je situace v Česku, kde se v rámci ochrany před terorismem před časem uvažovalo o něčem podobném v pražském metru. A má to zde spíš podporu, nebo to vzbuzuje odpor?

Podle mě v Česku tyto systémy zas tolik rozšířeny nejsou. Znám je, vím, jak fungují, viděl jsem spoustu úžasných technologií, s jejichž pomocí byli třeba nalezeni atentátníci z Bostonu. Je to zbraň – a jako každá zbraň je dvojsečná. Na jednu stranu můžete argumentovat zvýšením bezpečnosti: Jinak reaguje člověk, který byl napaden a ví, že je to nahráno na nějakém kamerovém systému; ten bude volat po tom, aby se na základě toho záznamu padouch dopadl. A jinak bude reagovat člověk, kterému se nic nestalo. Jednoznačná odpověď na to, zda něco podobného zavádět, respektive v jaké míře, obávám se, neexistuje. Někdy to svůj přínos určitě má, jindy je to opravdu na hraně omezování osobní svobody, zasahování do soukromí.

O rodičích, technice a dětech

Nedávno jsem četl zajímavý článek o tom, jak rodiče poškozují své potomky tím, že od narození až do dospělosti zveřejňují jejich osobní informace. Zveřejňují fotky a dávají k nim jména. Zveřejňují různé relativně směšné události, které se těm dětem staly. A někdo, kdo ví, jak tyto informace posbírat, vyhodnotit a použít později proti už dospělým lidem, má pak snadnou práci; například když si budou hledat zaměstnání nebo když dochází k vyhodnocování potenciálního obchodního vztahu. Tyto děti tak na základě hlouposti nebo neznalosti svých rodičů budou trpět. Do jaké míry jsou tyto informace skutečně zneužité Velkým bratrem? A jak je případně možné něco podobného omezit?

Podobné informace jsou pochopitelně velice snadno zneužitelné. Kupříkladu dvacet až třicet procent odmítnutých žadatelů o práci je dnes odmítnuto kvůli jejich statusům na sociálních sítích. Pokud někde napíšete, že je šéf kretén, tak si tak akorát zavírá vrátka k dalšímu zaměstnání. To je jedna věc. A co se týká dětí, podobné chování rodičů je opravdu velmi nezodpovědné. Člověk se rád pochlubí fotkami dětí, vnoučat, ale je třeba vybírat situace a prezentovat je jen omezenému okruhu lidí. My jsme třeba s rodinou propojeni přes Facebook, tak si sdělujeme nějaké informace. Tento nástroj tedy využívám(e), ale s rozumem. K tomu bohatství – informace představují bohatství – je prostě třeba přistupovat obezřetně. A přemýšlet i trošičku dopředu, co všechno se s danou informací jednou může stát. Být zdravě paranoidní.

Ke zmíněnému poškozování dětí bych pak dodal, že problém není jen ve fotkách na sociálních sítích, ale také v tom, že jim rodiče často ve dvou letech dají do ruky telefon nebo tablet. Existuje studie, která jasně dokazuje, že se těmto dětem nevyvine jemná motorika, nejsou schopny uchopit trojrozměrný předmět. A jsme opět u toho zbavení se odpovědnosti a daně, kterou za to platíme: Dítě s tabletem nezlobí a nevyžadují pozornost dospělých. Ale za jakou cenu…

Lidé si často ani neumějí představit, kdo by o jejich informace mohl mít zájem a proč. Až příliš často slyším argument: „Proč by to, co na síti píšu a dělám, mělo někoho zajímat?“ A druhý velmi rozšířený argument zní: „Když nic nedělám, nemám se čeho bát.“

Otázka je, jak definujeme to „nicnedělání“. Já se obávám, že spousta lidí okouzlených technologiemi, okouzlených sociální sítí, svobodou na internetu má tuto hranici nastavenou hodně vysoko. Že ji v podstatě nikdy nedosáhnou, protože jsou příliš benevolentní.

Zaměřme se také proto na rezistenci vůči negativům, která jsme i zde pojmenovali; na nějaké budoucí hnutí odporu. V každé společnosti je totiž skupina lidí, která jde proti systému. Jak bude vypadat zde v Česku v roce 2050? Půjde, podobně jako v kultovním filmu Matrix, o lidi v undergroundu, žijící vysoce konspirovaným způsobem, odpojené od systému, o hackery s velmi dobrou znalostí státního dohledu a korporací snažící se přinejmenším žít mimo systém, a nebo ho přímo destabilizovat či zničit?

Jednou ze základních motivací hackerských útoků nebo nějaké „škodlivé“ činnosti v kyberprostoru je hacktivismus. Hacktivisté jsou ti, kteří útočí, protože s něčím nebo s někým nesouhlasí, a svůj postoj takto dají najevo. I proto také někdy svůj záměr zveřejní dopředu. Příkladem je hnutí Anonymous. Stejně tak existuje hnutí Kryptoanarchisté, jehož členové opravdu všechno chtějí řešit v kyberprostoru, který nebude vysledovatelný, který funguje přes anonymizační technologie. S nimi já mám trošku problém, protože chtějí od regulace osvobodit úplně všechno, včetně obchodu se zbraněmi, drogami a podobně. Říkají, že to je otázka nabídky a poptávky, což je možné sledovat na darknetu. Tyto a další skupiny nám podle mě už dnes napovídají, jak by takové hnutí odporu zítřka mohlo vypadat.

A pokud jde o technologie, které by mohly tyto skupiny v roce 2050 používat, upřímně řečeno, to si netroufnu odhadnout. Vždyť kdo si před třiceti lety dokázal představit mobilní telefon s osmi fotoaparáty? Já jsem začínal na sálových počítačích, jejichž kapacitu a výkon dnes výrazně převyšuje průměrný mobil. Kdo může vědět, co přijde… Já se jen obávám, aby podobná mentální cvičení nebyla irelevantní, aby je za nás nevyřešila umělá inteligence zmíněným vypínačem.

Co už se podle vás technologiím, Velkému bratrovi, podařilo zničit? V našem chování, ve společnosti, v tom, jak přistupujeme k životu, k osobním vztahům a podobně.

Technologie nastavily obrovskou emoční vzdálenost od místa účinku. Vy nejdete po chodníku a nezačnete člověku, kterého potkáte, hned nadávat těmi nejhoršími výrazy, nedáte mu pěstí do zubů. Nejdete ani do obchodu, abyste tam ukradl čokoládu, protože to v normálním člověku vzbudí negativní emoci. Je prostě nepříjemné se takto chovat. Mně je nepříjemné odhodit papírek na zem, protože jsem tak vychovaný. Ve virtuálním světě je ale emoční vzdálenost obrovská. Ten dopad účinku je několik tisíc kilometrů vzdálený, nebo to tak alespoň působí.

Jednou jsem přednášel na konferenci středoškolákům o tom, jak na sociální síti eskaluje konflikt. Prostě si říkáte s  člověkem na druhém konci drátu nebo bezdrátu hnusnější a hnusnější věci. A zeptal jsem se, jestli se někomu přihodilo, že to přerostlo ve fyzický konflikt. Přihlásila se jedna dívenka, že jí se to stalo. Že na sebe s kamarádkou byly hnusné na sociální síti, druhý den ráno přišla do školy a kamarádka jí bez řečí dala pěstí. Já proto vždy říkám: „Dávejte na sociální sítě jen to, co jste ochotni na sebe vykřičet před samoobsluhou. Chcete na sebe všechno vykřičet všem? Obejměte se se všemi. Pozvěte všechny na narozeniny, do třípokojového bytu. Napíšete kdejakou hloupost na sociální síť, na zeď. V okamžiku, kdy to má sto nebo sto padesát lajků, už to je pravda. Protože nám chybí kritické myšlení.“

Ostatně, právě nedostatku kritického myšlení využívají mimo jiné dezinformační weby. Rusové spustili i robotrolling, systém s umělou inteligencí, který generuje tweety, ale i reaguje na tweety, a dokáže dokonce měnit jejich význam. Posílali to do Česka, na Slovensko, do Polska a pobaltských republik. Ani americký analytický nástroj na to nepřišel. Víte proč? Zapomněli zapnout azbuku. Oni si mysleli, že Rusové budou do těchto míst posílat trolly v angličtině. Přitom pohybovat se v hackerském prostředí bez ruštiny dnes skoro nejde.