Ceny Velkého bratra tradičně dostávají ty nejvlezlejší firmy, úřady či technologie. Letos, již při 19. ročníku, na stupních vítězů dominovala dvě témata: automatizované rozpoznávání tváří a neodůvodněný masový sběr údajů.

Českou veřejnost by měla asi nejvíce zajímat kategorie Úřední slídil. Tu letos získala Policie ČR za provoz svého Informačního systému Digitální podoba osob (IS DPO).

V něm se nachází téměř dvacet milionů fotografií v podstatě každého z nás. Pocházejí z českých občanských průkazů a pasů. Když policie potřebuje ztotožnit něčí identitu, ať již z fotky či videa, může tento systém využít.

Jak však již v minulosti organizace Iuridicum Remedium (která Ceny Velkého bratra pořádá) upozornila, policie v roce 2022 systém spustila poněkud utajeně. Před jeho spuštěním navíc neměla zpracované zhodnocení dopadu do soukromí (tzv. DPIA), což je v rozporu se zákonem. Nadále také chybí i dostatečný právní základ pro jeho provoz.

Oceněním chceme znovu upozornit na problematický přístup vedení Policie ČR k využívání nových technologií; jeví se totiž jako systémový a měl by zajímat jak regulační orgány, tak vládu a zákonodárce.

Podobně je dlouhodobě právně neupravené fungování kriminalistické databáze DNA nebo mnohaleté vytváření databáze snímků průjezdů všech aut na českých silnicích.

Podobné nedostatky jako u IS DPO pozorujeme například i u kamerového systému na rozpoznávání tváří na Letišti Václava Havla. Ocenění se navíc trefuje do připomínkového řízení nově předložené novely zákona o zpracování osobních údajů, která se právě využití, tentokrát v případě sledování v reálném čase, věnuje.

Ačkoli se důvodová zpráva k novele odvolává na chystané nařízení o umělé inteligenci, popírá jeho kontrolní mechanismy, jakým je třeba povolení soudu pro zařazení osoby do databáze.

Ministerstvo vnitra tedy připravuje pro policii i zpravodajské služby legislativní rámec pro pokračování nepřetržitého biometrického sledování, který ovšem bude kolidovat s evropským právem.

Na středeční ocenění bohužel policie reagovala v duchu dadaismu: podobně jako když v červenci loňského roku zveřejnila pod palbou dotazů rozhovor sama se sebou, kde si na otázku Tajíte něco? odpověděla Ne.

Tentokrát v reakci na ocenění mluvčí policejního prezidia Ondřej Moravčík pro iDnes.cz uvedl, že „na takové akce nechce naskakovat“ a následně že „systém je funkční v mnoha jiných zemích a porota s ním nemá osobní zkušenosti“.

Policii možná uniklo, že v demokratických státech jsou takové systémy využívány s referenčními databázemi, které nezahrnují veškerou populaci, i to, že porota ani část veřejnosti s podobným biometrickým systémem právě vůbec žádnou osobní zkušenost mít ani nechce.

Řízek a úsměv do kamery

S biometrikou, tedy s identifikací na základě tváře či třeba otisku prstu, souvisí i ocenění Firemní slídil. To obdržela firma Innovatrics za svůj systém Fingera, který umožňuje podle tváře efektivnější kontrolu docházky zaměstnanců, ale i vydávání jídel v kantýně.

Bohužel však vůbec nereflektuje, že nařízení GDPR prakticky vylučuje, aby byly podobné systémy na běžných pracovištích využívány.

Specifikem biometrických údajů totiž je, že jsou neměnné, což s sebou nese vysoké riziko jejich zneužití. Na zpracování biometrických dat se tak vztahují omezení, která znamenají, že v běžných provozech lze biometrické údaje používat pouze s výslovným svobodným souhlasem subjektu.

Zaměstnanec tedy musí mít skutečně reálnou alternativu, která mu umožňuje bez jakýchkoli postihů souhlas se zpracováním biometrických dat nedávat. Z prezentací společností, které systém Fingera využívají, se přitom nezdá, že by možnost odmítnout využití biometriky zaměstnanci reálně měli.

Zejména pokud prezentace jejích výhod je založena právě na nahrazení starých nástrojů jako jsou karty nebo čipy právě biometrikou a reálné udržování dvou systémů současně by jen těžko dávalo zaměstnavatelům smysl.

V reakci zaměstnankyně firmy Innovatrics jsme však byli ubezpečeni, že na možnost biometriku odmítnout firma upozorňuje a nabízí lidem i alternativní prokázání se identifikační kartou – ostatně prý i v samotně firmě, která je na poli biometrických systémů světovým lídrem, jsou zaměstnanci, kteří biometriku odmítají.

Otevírá se tak možný prostor pro novináře a novinářky: ověřit, zda zaměstnanci ve více než tisícovce firem v Česku a na Slovensku, které Fingeru využívají, dostali skutečně reálnou možnost se do biometrického systému nezapojit…

Data společnosti na svoz odpadků

Další dvě ocenění mají taktéž společný nadměrný sběr údajů. Právě za ten si cenu Dlouhodobý slídil vysloužil projekt MojeOdpadky.cz. Na svědomí ho má společnost ISNO IT, s.r.o.; obcím a městům v rámci něj nabízí tzv. motivační systém MESOH (Motivační a evidenční systém pro odpadové hospodářství), který odměňuje občany za ekologické chování tzv. EKO body, za něž mohou získat slevy.

Se získáním EKO bodů je však spojeno i shromažďování osobních údajů provozovateli systému: lidé je získávají za aktivní komunikaci či návštěvu webových stránek. Systém poskytování slev za sběr bodů je tak podle poroty vlastně totéž jako systém pokut za nedostatečnou ochotu sdílet osobní informace.

Údaje předávané obcemi, stejně jako data od občanů, kteří využívají účet odpadového hospodářství, jsou podle provozovatele systému například využívány k personalizovanému zasílání obchodních sdělení, a to i bez souhlasu subjektu údajů.

I toto ocenění naznačuje určité širší trendy, kterých jsme svědky: a to je prezentace sběru dat jako něčeho nutného a za účelem vyššího dobra (zde je to ekologie) a jeho gamifikací, kdy je rozdávání citlivých dat vlastně jen jakousi nevinnou hrou.

Europol získal i Cenu veřejnosti

Za plán shromažďovat data, k jehož naplnění naštěstí zatím nedošlo, byl oceněn také Europol. Ten si odnesl cenu za Výrok Velkého bratra. Podle tria investigativních novinářů totiž zástupce Europolu, kterému už v minulosti bylo nařízeno zlikvidovat data o občanech uchovávaná bez jakéhokoli jasného důvodu, na pracovním setkání prohlásil toto:

„Všechny údaje jsou užitečné a měly by být předávány orgánům činným v trestním řízení. Centrum EU by nemělo provádět žádné filtrování, protože i nevinný snímek může obsahovat informace, které by mohly být v určitém okamžiku užitečné pro orgány činné v trestním řízení.“

Výrok se týkal kontroverzního plánu Evropské komise na plošné sledování komunikace nebo obsahu cloudových úložišť kvůli automatizovanému vyhledávání dětské pornografie.

Podle poroty Europol prakticky potvrdil obavy četných kritiků návrhu: že systém plošné kontroly komunikace by mohl být záhy zneužit a definice „škodlivého materiálu“ svévolně rozšiřována.

Cenu předala přes video Ella Jakubowska z celoevropské sítě EDRi (European Digital Rights), která se tématu po celý rok 2023 věnovala. Europol si v následném hlasování, kterého se zúčastnila téměř stovka lidí přítomných na slavnostním večeru, vysloužil i Cenu veřejnosti za vůbec největšího bratra za všech Velkých bratrů za rok 2023.

Dnes na vodu, zítra na vzduch?

Velký bratr dává ale i jednu Pozitivní cenu. Odnesl si ji spolupředseda Strany Zelených Michal Berg. Ten v listopadu 2023 – záhy poté, kdy Správa železnic zveřejnila informace ke svému projektu Železnice bez plastů, v rámci kterého bude se startupem Lokni instalovat na nádražích automaty na filtrovanou vodu–, spustil petici proti tomu, aby využití automatu na vodu bylo vázané na používaní mobilní aplikace.

V jednom ze svých textů Berg upozornil i na neopodstatněný sběr dat, který je od lidí, co se jen chtějí napít, vyžadován (aplikace zpracovává e-mail, křestní jméno, volitelně pohlaví, dále ID zařízení a unikátní uživatelské ID pro každou instalaci a dále provozní údaje o využití pítek).

Cena je tak upozorněním na stále nedostatečně reflektovanou problematiku digitálního vylučování, kdy i od sociologů často zaznívá, že zde vždy bude skupina lidí, která nechce či nemůže využívat některé digitální technologie. Nejen soukromý sektor, ale hlavně politici a všichni ti, kdo se podílejí na tvorbě veřejného prostoru, by s tím měli počítat.

Dvacet let Velkých bratrů

Letošní 19. ročník se odehrával v opět o něco větším prostoru a je tak předzvěstí blížícího se jubilejního dvacátého ročníku, který nás čeká v příštím roce.

Ten bude vhodnou příležitostí reflektovat, co se stalo s naším soukromím za posledních dvacet let.

Při pohledu na vítěze dosavadních ročníků lze samozřejmě vést polemiku, zda Velkým bratrem zbytečně strašíme a paranoidně přeháníme, nebo zda si na proměnu pojmu soukromí, kdy se v naší denně žité realitě zhmotňují ty nejhorší obavy autorů slavných sci-fi románů, prostě jen zvykáme.

My se přikláníme k tezi, že se ztrátou soukromí je to jako u té postupně se vařící a nic netušící žáby ve slavném žabím syndromu.

Článek vychází v rámci mediální spolupráce HlídacíPes.org s organizací IuRe, která pořádá Ceny Velkého bratra.