ANALÝZA. Možnosti umělé inteligence již v praxi využívají i české bezpečnostní složky. Jde o analýzu videí, zvuků, textů či fotografií. „Může to snadno sklouznout k programům plošného sledování, což představuje závažné riziko pro práva a svobody obyvatel a pro samotné demokratické směřování společnosti,“ varuje organizace Iuridicum Remedium, která v Česku dlouhodobě pořádá mimo jiné soutěž Ceny Velkého bratra.

Pravděpodobnost, že by se zrovna vaše tvář nenacházela v policejní databázi, je v podstatě nulová. Systém, který policie využívá k obrazové identifikaci osob, čítal k červenci 2023 celkem 19 666 787 fotografií.

Kamery, které dokážou člověka identifikovat v reálném čase, má ale česká policie k dispozici zatím jen na Letišti Václava Havla. V Plzni zase na klid ve veřejném prostoru dohlížejí vedle kamer i desítky ruchových mikrofonů.

Rizika zneužívání technologií

Plošná analýza fotografií, videa či textů je díky rozvoji technologií stále dokonalejší, levnější a dostupnější. A pro bezpečnostní složky lákavější.

Česká policie se odvolává i na paragraf, podle nějž může „pořizovat zvukové, obrazové nebo jiné záznamy osob na veřejně přístupných místech“.

„Různé automatizované dohledové systémy jsou i díky tomu často zaváděny netransparentním způsobem, bez posouzení jejich nezbytnosti, bez přiměřeného upozornění veřejnosti, a tedy i bez předchozí společenské debaty,“ varuje právník Václav Mach ve studii Český Minority Report: Využití umělé inteligence Policií České republiky, kterou na konci prosince zveřejnila organizace Iuridicum Remedium. 

Ochránci soukromí v ní varují, že „automatizované plošné sledovací systémy mohou porušovat lidská práva, především právo na soukromí, informační sebeurčení, spravedlivý proces a důstojnost; mohou mít negativní dopad na svobodu projevu a shromažďování; a omezovat ochotu obyvatel účastnit se veřejných, společenských nebo politických aktivit“.

I relativně běžná věc, jako je je rychlý automatický přepis mluveného slova do textu může například podporovat tendence k nasazování stále většího množství prostorových odposlechů.

Negativním příkladem toho, jak lze moderní technologie zneužívat, je systém sociálního kreditu v komunistické Číně. Lidé jsou tam hodnoceni na základě různých aspektů jejich ekonomického a společenského chování a podle toho se pak odvíjí úroveň jejich přístupu k veřejným službám.

I s ohledem na odstrašující příklad nedemokratických režimů nyní v rámci EU vzniká nařízení, jež se týká právě rizik spojených se zneužíváním technologií a umělé inteligence.

Zakázány by měly být systémy, které „zjevně ohrožují život, zdraví, bezpečnost nebo práva jednotlivců“. S účinností se počítá až od roku 2026.

Identifikace v reálném čase

Pokud jde o Česko, na nasazení moderních sledovacích systémů se nyní vztahují jen obecné předpisy: zákon o ochraně osobních údajů (GDPR) a směrnice o ochraně údajů v oblasti prosazování práva. Ta se týká zpracování osobních údajů „za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů“.

Česká policie se odvolává i na paragraf, podle nějž může „pořizovat zvukové, obrazové nebo jiné záznamy osob na veřejně přístupných místech“. Spolu s obecnou možností zpracovávat osobní údaje jí to prý umožňuje i plošné sledování v kamerových systémech včetně identifikace v reálném čase.

Zatím jediný takový sofistikovaný kamerový systém policie provozuje na Letišti Václava Havla v Praze. Má tam rozmístěno celkem 145 kamer, přístup k záznamům má mimo jiné i Celní správa, Bezpečnostní informační služba nebo Vojenské zpravodajství.

Podle informací, jež si vyžádala organizace Iuridicum Remedium, „od spuštění systému na letišti dne 15. června 2018 až do 31. prosince 2022 došlo k celkem 234 shodám s osobami vedenými v zájmových databázích“.

„Jde o to monitorovat a předvídat nějakou rizikovou bezpečnostní situaci dříve, než se stane. Zejména je to právě o kamerách, ale i tyto sofistikované systémy narážejí na problematiku ochrany osobních údajů, GDPR a podobně, to znamená, že tam vždycky bude nějaký limit. I když i biometrika v letectví má dnes už svoje místo, míra použití se odvíjí od toho, co dovolí legislativa,“ komentoval bezpečnostní systém na Letišti Václava Havla předseda představenstva Letiště Praha Jiří Pos.

Ochránci soukromí jsou přesvědčeni, že kamerový systém s biometrickou identifikací je na letišti provozován bez toho, aby si policie zpracovala posouzení vlivu na ochranu osobních údajů i bez splnění nároků výše zmíněné směrnice.

Policie to vysvětluje tím, že v době spuštění sledovacího systému do zkušebního provozu postačovalo prý jen ohlášení Úřadu pro ochranu osobních údajů.

Další plány na zavedení stejného systému i v ulicích Prahy, v pražském metru a na letištích v Brně, Ostravě či Karlových Varech nicméně zatím zůstaly nenaplněné.

Policie vás slyší

Běžnější je využívání kamerových záznamů k zpětné identifikaci lidí a k porovnání s databázi všech osob žijících v České republice. Digitální fotografie a další identifikační znaky konkrétních lidí získává policie z informačních systémů evidence občanských průkazů, cestovních dokladů, diplomatických a služebních pasů, registru řidičů nebo z informačního systému cizinců žijících v ČR.

Na některá veřejná prostranstvích se instalují mikrofony a zvuky z nich jsou následně analyzovány. Algoritmy jsou v reálném čase schopné rozpoznat například křik, střelbu nebo tříštění skla.

V databázi je tedy prakticky každý člověk žijící trvale v České republice a ještě mnoho z těch, kteří už v zemi nejsou. „Podle vyjádření Policejního prezidia se v červenci 2023 nacházelo v referenční databázi celkem 19 666 787 fotografií,“ upozorňuje studie Iuridicum Remedium.

Systémy umělé inteligence pro analýzu obrazu se běžně používají i v kamerových systémech umožňujících automatické čtení registračních značek automobilů. I ty mimochodem představují osobní údaj, tedy informaci, která vede v řadě případů k identifikaci osoby.

„Přesný počet kamer není znám, ale může se odhadovat na tisíce, přičemž jejich počet neustále narůstá. Kamery zachycují každý projíždějící automobil bez ohledu na to, zda se řidič dopouští nějakého přestupku,“ upozorňuje autor studie Václav Mach s tím, že se ukládá nejen fotografie, ale i výřez s tabulkou registrační značky, datum a čas výskytu vozidla, místo a GPS souřadnice zdrojové kamery. Většina záznamů se v databázi uchovává rok.

Zajímavé je i uplatnění analýzy zvuku. Česká policie počítá s využitím analýzy zvukových záznamů při zpracovávání odposlechů telefonních hovorů, prostorových odposlechů, nahrávek výslechů a tísňového volání, ale také nahrávek získaných z otevřených zdrojů, jako jsou média, sociální sítě a různé podcasty.

Na některá veřejná prostranstvích se také instalují mikrofony a zvuky z nich jsou následně analyzovány. Algoritmy jsou v reálném čase schopné rozpoznat například křik, střelbu nebo tříštění skla, vyslat upozornění do operačního střediska a automaticky otáčet kamery směrem k původu podezřelého zvuku.

V praxi je takový systém od dubna 2022 v Plzni: součástí městského kamerového systému městské policie je 53 mikrofonů, dalších deset jich je ve Fakultní nemocnici Plzeň. S využitím se počítá i v Ostravě, České Lípě nebo v Dubí.

Jde o vynález české firmy Jalud Embedded, která ale ujišťuje, že vše je v souladu s GDPR: „Analýza zvuku probíhá přímo na zařízení a ven se odešlou pouze metadata a maximálně vteřinová zvuková ukázka. Na základě takto zveřejněných dat tak není možné rozpoznat konkrétní osobu.“