KOMENTÁŘ. Žádný kouzelný technologický vynález, který by zabránil bestiálnímu vraždění, bohužel neexistuje. Již nasazení stávajících automatizovaných nástrojů české policie přitom nevzbudilo přílišnou důvěru.

Nestává se příliš často, aby se názor odborného garanta za SPD takřka překrýval s názorem novináře z Respektu. Za obvyklých okolností osoby ze spíše opačného názorového spektra se však myšlenkově setkaly v reakci na tragickou událost 21. prosince 2023, kdy bylo na Filosofické fakultě zavražděno 14 lidí a dalších 25 bylo zraněno.

Poradce hnutí SPD pro otázky bezpečnosti Martin Pecina v pořadu Otázky Václava Moravce zkritizoval policejní práci s daty a volal po jejich lepším propojení: „Pokud by ty registry byly propojené, pokud by někdo kontroloval ta data, tak by se zjistilo, že si ten člověk bral velký úvěr, koupil si osm zbraní naráz a údajně se léčil i na psychiatrii,“ uvedl.

Den poté v Respektu pak podobnou myšlenku vyjádřil redaktor Jaroslav Spurný: „Kdyby měla policie opravdu funkční analytický digitální systém, stačilo by po nálezu mrtvého těla v domě v Hostouni pár kliknutí, aby zjistila, že student, podezřelý z otcovraždy, je zároveň jedním ze čtyř tisíc prověřovaných osob v případu dvojnásobné vraždy v Klánovicích, že je majitelem osmi zbraní, a dokázal by pomocí kamer okamžitě hlídat místa, kam by mohl jít či skrze která by se cestou do Prahy mohl pohybovat.“

Obě citace dobře ilustrují přirozené pocity, které se pravděpodobně odehrávají v každém z nás bez ohledu na věk či politické názory. Podvědomě všichni toužíme po tom, aby se teď něco stalo, aby nám někdo neprodleně dodal jistotu, že se podobná tragédie nebude opakovat.

Tohoto společenského rozpoložení si je česká policie, která je nyní pod velikým tlakem, dobře vědoma. Policejní prezident Policie České Republiky Martin Vondrášek proto již oznámil vznik Jednotného analytického nástroje (JAN), který by měl právě propojení výstupů z různých informačních systémů a srovnání informací do definovaného celku, jak řekl v rozhovoru pro Respekt, umožnit.

Ministr vnitra Vít Rakušan dále uvedl, že tento střešní systém bude programován za nemalé prostředky. Více bychom se o něm měli dozvědět již na konci ledna na zasedání Bezpečnostní rady státu.

Mezi svobodou a bezpečností

Prohlášením o novém magickém systému JAN, který bude nafutrován citlivými informacemi o nás všech a který by měl v ideálním případě potenciálním dalším tragédiím zamezit, se tak chtě nechtě stáváme všichni součástí již archetypálního příběhu o hledání správné rovnováhy mezi bezpečností a svobodou. Příběhu, který se již v historii po celém světě mnohokrát odehrál, v nedávné době v rozličných zemích zpravidla v souvislosti s teroristickými útoky.

Pointa příběhu přitom vždy záleží na aktivitě jednotlivých aktérů. Tím hlavním aktérem jsou bezpečnostní složky státu, které logicky a v duchu svého poslání usilují o to, aby zamezily zločinu a tragédiím. Zpracovávají a vyhodnocují za tím účelem všechny informace, které mají k dispozici, s tím, že jich v průběhu času a souběžně s technologickým vývojem chtějí mít k dispozici víc a víc.

Druhým aktérem je pak občanská společnost: novináři, spolky i jednotlivci. Ti všichni, z různých pozic a z různých důvodů, zpravidla v podobných situacích volají po tom, aby snaha o maximální bezpečnost zároveň nevedla k omezení svobod a k porušování zákonů. (Respektive někdy nevolají, což je však více než co jiného neklamná známka o nepříliš vysoké míře demokracie v dané zemi).

I v našem aktuálně prožívaném příběhu musejí podobná volání probíhat. Neměli bychom zkrátka již nyní automaticky předpoládat, že „nějaké svobody asi budeme muset nějakým způsobem omezovat, zdá se“, jak řekla v rozhovoru třeba Světlana Witowská.

Pojďme na to: proč bychom se tedy před chystaným policejním Jednotným analytickým nástrojem měli mít na pozoru?

Proč hlídat hlídače

Každé shromažďování a propojování údajů v masovém měřítku (a právě takovým se JAN zatím zdá být) obecně nutně vede ke zvýšenému riziku zneužití. Je přitom jedno, zda dostupné údaje využije svévolně přímo policista, či zda údaje vytáhne ven pro někoho jiného.

Připomeňme, že sice žijeme v zemi se stabilním a funkčním právním řádem, přesto v zemi, kde milenka premiéra úkolovala agenty tajné služby, aby sledovali jeho manželku, což bylo umožněno právě nedostatečnou kontrolou.

Bude-li JAN umožňovat automatizované upozornění na podezřelé chování na bázi umělé inteligence či strojového učení, roste zde významně i riziko falešné pozitivity, tedy vzniku případů, kdy systém označí někoho za podezřelého chybně. Je pak na lidské kontrole, aby dokázala vyhodnotit reálná nebezpečí. Čím rutiněji je přitom využívána technologie, tím bývá schopnost člověka vyhodnotit její limity menší.

Problémem zde může být i efekt následného zahlcení bezpečnostních složek. Ten je mimochodem jedním z důvodů, proč nedávno po výrazném občanském tlaku spadl pod stůl nápad Evropské komise na plošnou kontrolu elektronické komunikace, kdy bylo zamýšleným cílem například odhalování dětské pornografie.

Konečně přejděme od předběžných domněnek k faktům: je tomu totiž shodou okolností pár měsíců, kdy česká policie již jeden analytický nástroj představila. A nebyla to pěkná podívaná…

Že policie provozuje systém Digitální podoba osob, v rámci kterého může automatizovaně vyhledávat v databázi téměř 20 milionů obličejů z českých občanek a pasů, což jí teoreticky umožňuje například pouze z fotek na sociálních sítích či z dostatečně kvalitních kamerových záznamů odhalovat identitu tváří, jsme se totiž dozvěděli až na základě námi podaných žádostí o informace minulý rok v létě. Na naše zjištění pak policie reagovala lehce bizarní zprávou, kdy si v rozhovoru sama se sebou na otázku tajíte něco? odpovídá ne.

To je přitom docela případná otázka. O systému jsme se totiž dozvěděli až rok poté, co byl již v ostrém provozu. Jen pár měsíců před spuštěním se přitom zástupci policie zúčastnili celodenního semináře o biometrickém dohledu – ani zde o systému nepadlo ani slovo. Třešničkou na dortu budiž, že Posouzení vlivu na ochranu osobních údajů, u podobných systémů povinné, zpracovala policie právě až s ročním zpožděním po mediálním tlaku.

Nutnost nepříjemných otázek

Příklad nástroje Digitální podoba osob ukazuje způsob, jakým policie dosud přistupovala k novým technologickým nástrojům ve své práci.

Policie v podstatě nevidí rozdíl mezi sledováním veřejného prostoru kamerou analogovou a kamerou s biometrickým rozpoznáváním tváří. Obojí se podle policie opírá o shodné obecné oprávnění monitorovat veřejný prostor nebo vést databázi digitálních fotografií.

Dopad do soukromí ale není možné měřit pouze množstvím údajů, které má policie k dispozici, ale především způsobem, jak efektivně je schopna s nimi pracovat, včetně jejich propojování.

Je tak fajn, že tentokrát o pravděpodobné existenci systému JAN víme alespoň dopředu. To nám dává šanci ovlivnit, jaká data budou jeho součástí, jak bude systém pracovat, kdo, kdy a za jakých okolností do něj bude mít přístup.

Nezbývá než doufat, že se jako občanská společnost nenecháme svázat strachem a emocemi a budeme mít sílu tyto nepříjemné otázky pokládat.

Autory komentáře je tým Iuridicum Remedium: neziskové organizace, která se ve svém programu Digitální svobody dlouhodobě zabývá ochranou soukromí. Od pandemie se výrazně věnuje také problematice digitálního vylučování a z toho vyplývajícímu „právu na analog“. Každoročně pořádá Ceny Velkého bratra.