Když student práv na olomoucké univerzitě Václav Mach požádal stát o bližší informace k využití chytrých biometrických kamer na pražském Letišti Václava Havla, místo odpovědí dostal jen obecné fráze. „Co mohli zatajit, to zatajili. Netransparentnost nepůsobí věrohodně,“ říká v rozhovoru pro HlídacíPes.org. Je přesvědčen, že využívání biometrických kamer je v rozporu s evropským právem.

V Česku najdeme biometrické kamery zatím pouze na pražském Letišti Václava Havla, ale mluví se o nich i v souvislosti s hromadnou dopravou v Praze nebo s fotbalovými stadiony. Máte s nimi nějakou osobní zkušenost?

Nejen já. Má s nimi zkušenost úplně každý, kdo od roku 2018 prošel letištěm. Konkrétně jde zhruba o 3,6 milionu cestujících odbavených v loňském covidovém roce, ale i další statisíce lidí, kteří se pohybovali pouze v předtranzitním prostoru. Ti všichni byli zaznamenáni biometrickými kamerami, které snímaly jejich osobní údaje, které následně nějak zpracovala cizinecká policie. A tam stopa končí, protože k těm zpracovávaným údajům se už nelze dostat. 

Vy jste se o to ale pokoušel…

Ano. Vracel jsem se z Kanárských ostrovů do Prahy a jelikož jsem procházel terminály, kde tyto kamery jsou, zažádal jsem si o ně u cizinecké policie. Sám své biometrické údaje neznám, nikdy jsem si je neměřil a zajímalo mě, co se o mě takto dozvěděli. Zároveň jsem je požádal o kamerové záznamy, na kterých jsem byl zachycen. Zažádal jsem si o to na základě Zákona o zpracování osobních údajů, podle kterého jsou nám bezpečnostní složky povinny poskytnout informace, jež o nás schraňují, pokud nejsou součástí nějakého trestního řízení. Podle tohoto zákona máme pak i případně právo na výmaz.

„Co mohli zatajit, zatajili.“

Co jste se o sobě dozvěděl?

Nic. Zákon o zpracování osobních údajů dává bezpečnostním složkám zákonnou lhůtu šedesát dnů na zpracování žádosti, jenže z cizinecké policie mi odpověděli, že moje záznamy a údaje již nemají, protože je skladují pouze třicet dnů. Z toho vyplývá, že pokud nebudou chtít, tak se člověk nemá možnost dozvědět biometrické údaje, které o něm bezpečnostní složky zpracovávaly. Přitom má ale právo toto všechno vědět, stejně jako zákonný důvod, proč jsou jeho osobní údaje zpracovány, za jakým účelem a kdo všechno k nim má přístup. 

KAŽDÉ RÁNO TO NEJLEPŠÍ Z HLÍDACÍPES.ORG

Dostal jste se aspoň k těmto informacím?

Bohužel ani tyto doprovodné údaje jsem se nedozvěděl. Snažil jsem se je navíc získat také dle zákona o svobodném přístupu k informacím. Odpovědi byly hodně plytké a v podstatě to, co mohli zatajit, zatajili. Nesdělili mi ani účel biometrického kamerového systému, který je popsán ve vnitřním pokynu. Poskytli mi nějaký oficiální účel, o kterém informuje ministerstvo vnitra v tiskových zprávách, ale vnitřní pokyny o tomto systému, které pochází od policejního prezidenta, mi nedali. Já si ho sice explicitně vyžádal, ale dostal jsem jen dokument, který byl z většiny začerněn s tím, že jde o vyloučené informace. Přitom je zřejmé, že proklamovaný účel je jedna věc a to, co je v jejich vnitřních dokumentech, je věc druhá. Neposkytli mi to a podle mě ta netransparentnost nepůsobí příliš věrohodně.

Zajímal jste se též o to, zda zpracované informace jsou s někým sdílené a kdo k nim má případně přístup?

I na to odpověděli jen odkazem na zákonné ustanovení. Ptal jsem se na to společně s organizací Iuridicum Remedium, která se zabývá digitálními svobodami, ale dostali jsme jen oficiální odpověď, s kým cizinecká policie spolupracuje a komu poskytuje součinnost. Zmiňují tam celníky, GIBS, vojenské zpravodajství, BIS nebo třeba Úřad pro zahraniční styky a informace. Z mezinárodních je tam třeba Interpol a Eurojust. 

V době, kdy biometrické kamery zaváděli na Letišti Václava Havla, na ministerstvu vnitra říkali, že to chtějí do dvou let mít i na ostatních českých letištích.

Znamená to tedy, že jsou informace z pražského letiště sdíleny i globálně?

Podle znění zákona se zdá, že sdílení biometrických údajů českých občanů s mezinárodními bezpečnostními institucemi možné je, ale chci v tomto směru ještě získat od policie podrobnější informace. Podle mého přesvědčení budou mít k těm údajům reálně přístup české tajné služby, dál je to pak otázka.

Pojistka proti zneužití

Zmiňoval jste organizaci Iuridicum Remedium, pro kterou jste na toto téma sepsal analýzu. V ní píšete, že Česká republika zavedením biometrického kamerového systému na pražském letišti porušuje evropskou legislativu. Z čeho tak soudíte?

Evropská legislativa, konkrétně Směrnice o ochraně osobních údajů při prosazování práva, členským státům přikazuje, aby zavedly povinnost zpracovat posouzení vlivu na ochranu osobních údajů. Biometrické kamery ve veřejných prostranstvích vždy do této povinnosti ze své podstaty spadnou, jenže v případě pražského letiště k žádnému posouzení nedošlo. 

Jak to? 

Česká republika implementovala tuto povinnost do Zákona o zpracování osobních údajů, ale ten nabyl účinnosti až poté, co byl spuštěn systém biometrického rozpoznávání na letišti. Česká policie proto tvrdí, že podle českého zákona nic neporušuje, protože se na to zákonná povinnost tehdy nevztahovala a evropské směrnice nemají přímou účinnost. 

Jenže mají implementační lhůtu a ta u této směrnice uplynula ještě před zahájením zpracovávání osobních údajů v Praze. To znamená, že směrnice už měla v tu chvíli přímou účinnost a oni se tím již museli řídit v době spuštění systému, ačkoli to naši legislativci nestihli včas zpracovat. 

V čem je posouzení vlivu na ochranu osobních údajů důležité? 

Popisuje totiž fungování celého toho systému. Hodnotí jeho bezpečnost, rizika z něj vyplývající pro ochranu osobních údajů a zajišťuje určité kontrolní mechanismy. Cílem je dát lidem nějakou záruku ochrany soukromí a toho, že ten systém nebude zneužit. Jde o preventivní opatření.

Znamená to tedy, že v případě, že by teď bezpečnostní složky chtěly systém zavést na jiných veřejných místech, muselo by k jeho posouzení dojít. Může to být důvod, proč se od roku 2018 žádný z dalších podobných systémů nezavedl?

Ano. V době, kdy biometrické kamery zaváděli na Letišti Václava Havla, na ministerstvu vnitra říkali, že to chtějí do dvou let mít i na ostatních českých letištích. Věřím, že právě povinnost zpracovat posouzení vlivu na ochranu osobních údajů je jedna z největších administrativních překážek a důvod, proč k tomu dosud nedošlo.

Česko na čínské cestě?

Ve vaší práci je uvedeno, že 84% Čechů nesouhlasí se sledováním. Jak hodnotíte veřejnou debatu o zavádění podobných systémů?

Jde o téma, které se příliš neřeší, protože je mnoho jiných společenských otázek, které jsou považovány za důležitější a toto téma pak zapadá. Připadá nám, že to není aktuální, jenže s technologickým pokrokem a stále větším využíváním digitálních technologií to může do budoucna být velký zásah do našeho soukromí a také velký problém. Může to naprosto zásadním způsobem ovlivnit naše životy, což současná debata moc nereflektuje. 

Na druhou stranu se toto téma řeší poměrně výrazně v kontextu současné Číny, kde funguje systém sociálního kreditu, který je přímo spjatý s kamerami na rozpoznávání obličejů. Naznačujete, že snad míříme čínským směrem?

Podle mě není možné zabránit tomu, aby se tyto technologie tady využívaly, a věřím, že to bude mít velký dopad na životy lidí. Ale nemyslím si, že v Evropě někdy dojdeme do stavu, který mají v Číně.  Žijí jiným způsobem, je tam jiný politický systém a stejně tak to bylo i jiným způsobem zavedeno. Jde tam o veřejnou věc a tamní společnost to často přijímá, protože na základě toho má přístup k veřejným službám a pokud lidé dodržují pravidla, jsou za to odměňováni. Pro nás, a troufám si říct, že v rámci celé Evropské unie, je tento přístup nepřijatelný, a proto na to evropská legislativa reaguje. Jsme podle mě obecně opatrnější a skeptičtější v tom nechat rozhodovat o právech člověka jen na základě algoritmů a umělé inteligence. U nás hraje stále důležitou roli rozhodnutí konkrétního člověka.

Když v Praze před časem skupina holandských turistů brutálně zmlátila číšníka a bylo po nich vyhlášeno pátrání, nenašel je na letišti kamerový systém, ale nějaký zaměstnanec, který je poznal na základě záběrů odvysílaných v televizi.

A jakou podobu by zmiňovaný systém mohl mít u nás?

Ten zásah do soukromí zde může mít naprosto jinou podobu. Zavedení těchto technologií bude skrytější, než je tomu v Číně. Myslím si, že budeme umělou inteligencí a kamerami třídění do různých kategorií, kterým bude věnovaná odlišná pozornost bezpečnostních složek státu a budou kontrolováni rozdílným způsobem. Někomu, koho umělá inteligence vyhodnotí jako problémového, a spadne do nějaké „rizikové“ kategorie, bude věnován vyšší stupeň kontroly. To může mít různé podoby. Oproti Číně bude tato kontrola probíhat bez vědomí dotyčných. Nikdo vlastně nebude vědět, jaký je v tomto ohledu jeho status.

Mezi nejčastější argumenty zavádění chytrých kamer patří boj proti terorismu, ale i identifikace neukázněných fotbalových fanoušků a obecně zajištění bezpečnosti. Stačí to k uklidnění obav z „velkého bratra“?

Zločinnost klesá, žijeme poměrně v bezpečné zemi a já se necítím příliš ohrožený. Mám tedy pocit, že k tomu není dost důvodů a nevěřím ani tomu, že biometrické kamery dokáží odhalit teroristu. Nevím o žádném takovém případě. Podle mě je dost sporné, zda by to dokázalo situaci nějak výrazně zlepšit.

Na fotbalových stadionech jde podle mě o naprostou zbytečnost a v podstatě jen o usnadnění práce ochranky. Zpracovávat osobní údaje velkého množství lidí podle mě není snadno ospravedlnitelné. Jedná se v podstatě o hromadné sledování lidí. A když už to v nějakém případě ospravedlnitelné bude, tak je tady stále otázka efektivity, zda to vůbec dokáže pomoci. Já bych byl rád, kdyby se biometrické kamery nevyužívaly vůbec a kdyby se ten masivní rozvoj podařilo zastavit. Ale myslím si, že budoucí vývoj bude dost nekompromisní a k rozvoji biometrických kamerových systémů dojde po celém světě, i u nás. 

Počítač se prostě spletl…

Jak velký problém podle vás představuje fakt, že biometrické kamery jsou závislé na umělé inteligenci?

Myslím, že velký. Není to jen algoritmus, který někdo vytvořil, ale algoritmus, který následně zdokonaluje sám sebe a zlepšuje se. Takže v případě tváří je vyhodnocuje a učí se rozpoznávat emoce nebo dokonce to, co si člověk myslí a cítí v různých situacích. Na základě svých předchozích zkušeností vytváří umělá inteligence nová rozhodnutí. Pokud bychom vytvořili algoritmus, který nějakým způsobem rozhoduje a v čase se nemění, tak ho známe a máme ho pod kontrolou, ale ve chvíli, kdy ho necháme se samovolně zdokonalovat na základě zkušeností, které získal, tak si žije vlastním životem. Nevíme, jakým dalším způsobem a na základě jakých informací bude v budoucnu dále ty lidi vyhodnocovat. 

Ve Spojených státech již došlo na základě chyby biometrických kamer k dost drsnému přístupu k člověku, který byl podezřelý z krádeže hodinek. Místní policie kvůli tomu zadržela Afroameričana, nakonec se však ukázalo, že šlo o chybu a ve skutečnosti to vůbec nebyl on. Počítač se prostě spletl. Ale ten člověk už zažil nějaké nevybíravé chování, se kterým může být spjatá psychická újma nebo poškození reputace, důstojnosti. O mnoha takových problémech jsme se třeba jen nemuseli dozvědět, protože policie se tím chlubit nebude a málokdo bude mít ochotu o tom vykládat do médií. Avšak jak vidíme, může se to stát.

Ví se, jak úspěšný je vlastně systém chytrých kamer v Praze?

Od cizinecké policie jsem zjistil, že k letošnímu květnu došlo ke zhruba dvěma stovkám ztotožnění. To samozřejmě neznamená, že bylo dopadeno dvě stě teroristů, ale mohlo jít třeba o osoby pohřešované nebo ty, po kterých bylo vyhlášeno pátrání. Může jít třeba o lidi, kteří neplatí alimenty a nelze je dohledat jinou cestou než po nich vyhlásit celostátní pátrání. Pravděpodobně ani nešlo o dopadení nějakých závažných zločinců, protože s tím by se policie asi ráda veřejně pochlubila. 

Například když v Praze před časem skupina holandských turistů brutálně zmlátila číšníka a bylo po nich vyhlášeno pátrání, tak to nebyl kamerový systém, co je na letišti identifikovalo. Byl to tehdy nějaký zaměstnanec, který je poznal na základě záběrů odvysílaných v televizi. Otázka je, zda šlo jen o chybu kamer, nebo ještě nebyli zadaní v systémech a kamery je proto dohledat ani nemohly.

V tom americkém případě, který jste zmiňoval, šlo o falešnou pozitivitu. Dochází k takovým chybám i v Česku?

I na to jsem se ptal policie a bylo mi řečeno, že na pražském letišti došlo k několika tisícům falešně pozitivních shod. Ale myslím, že nemuselo dojít k žádnému zásahu do práv těch lidí. Falešné pozitivní shoda znamená, že systém ukáže „toto je hledaná osoba“, ale pak se ukáže, že to není pravda. Už ale nevím, jak to v reálné situaci probíhá. Nevím o žádném případu, že by si někdo stěžoval, že by bezpečnostní složky zasáhly do něčích práv. Může to totiž probíhat běžnou kontrolou dokladů, aby se zásah do práv občana minimalizoval. 

Kdo má za využívání umělé inteligence a biometrických kamer zodpovědnost?

Otázka zodpovědnosti je zásadní, ale zatím není úplně vyřešena. Měla by ji řešit připravovaná evropská legislativa – nařízení o umělé inteligenci. Ta je současně v legislativním procesu a měla by obsahovat odpovědnost za umělou inteligenci. Nejvíce zodpovědnosti pravděpodobně půjde za provozovatelem, který má největší možnost ovlivnit, jak se systém chová. V případě kamer bezpečnostních složek státu a zásahu do práv občanů půjde zcela jistě zodpovědnost na bedra státu.