Policie v reakci na vraždy na FF UK chystá nový analytický nástroj. Buďme ve střehu
KOMENTÁŘ. Žádný kouzelný technologický vynález, který by zabránil bestiálnímu vraždění, bohužel neexistuje. Již nasazení stávajících automatizovaných nástrojů české policie přitom nevzbudilo přílišnou důvěru.
Nestává se příliš často, aby se názor odborného garanta za SPD takřka překrýval s názorem novináře z Respektu. Za obvyklých okolností osoby ze spíše opačného názorového spektra se však myšlenkově setkaly v reakci na tragickou událost 21. prosince 2023, kdy bylo na Filosofické fakultě zavražděno 14 lidí a dalších 25 bylo zraněno.
Poradce hnutí SPD pro otázky bezpečnosti Martin Pecina v pořadu Otázky Václava Moravce zkritizoval policejní práci s daty a volal po jejich lepším propojení: „Pokud by ty registry byly propojené, pokud by někdo kontroloval ta data, tak by se zjistilo, že si ten člověk bral velký úvěr, koupil si osm zbraní naráz a údajně se léčil i na psychiatrii,“ uvedl.
Den poté v Respektu pak podobnou myšlenku vyjádřil redaktor Jaroslav Spurný: „Kdyby měla policie opravdu funkční analytický digitální systém, stačilo by po nálezu mrtvého těla v domě v Hostouni pár kliknutí, aby zjistila, že student, podezřelý z otcovraždy, je zároveň jedním ze čtyř tisíc prověřovaných osob v případu dvojnásobné vraždy v Klánovicích, že je majitelem osmi zbraní, a dokázal by pomocí kamer okamžitě hlídat místa, kam by mohl jít či skrze která by se cestou do Prahy mohl pohybovat.“
Obě citace dobře ilustrují přirozené pocity, které se pravděpodobně odehrávají v každém z nás bez ohledu na věk či politické názory. Podvědomě všichni toužíme po tom, aby se teď něco stalo, aby nám někdo neprodleně dodal jistotu, že se podobná tragédie nebude opakovat.
Tohoto společenského rozpoložení si je česká policie, která je nyní pod velikým tlakem, dobře vědoma. Policejní prezident Policie České Republiky Martin Vondrášek proto již oznámil vznik Jednotného analytického nástroje (JAN), který by měl právě propojení výstupů z různých informačních systémů a srovnání informací do definovaného celku, jak řekl v rozhovoru pro Respekt, umožnit.
Ministr vnitra Vít Rakušan dále uvedl, že tento střešní systém bude programován za nemalé prostředky. Více bychom se o něm měli dozvědět již na konci ledna na zasedání Bezpečnostní rady státu.
Mezi svobodou a bezpečností
Prohlášením o novém magickém systému JAN, který bude nafutrován citlivými informacemi o nás všech a který by měl v ideálním případě potenciálním dalším tragédiím zamezit, se tak chtě nechtě stáváme všichni součástí již archetypálního příběhu o hledání správné rovnováhy mezi bezpečností a svobodou. Příběhu, který se již v historii po celém světě mnohokrát odehrál, v nedávné době v rozličných zemích zpravidla v souvislosti s teroristickými útoky.
Pointa příběhu přitom vždy záleží na aktivitě jednotlivých aktérů. Tím hlavním aktérem jsou bezpečnostní složky státu, které logicky a v duchu svého poslání usilují o to, aby zamezily zločinu a tragédiím. Zpracovávají a vyhodnocují za tím účelem všechny informace, které mají k dispozici, s tím, že jich v průběhu času a souběžně s technologickým vývojem chtějí mít k dispozici víc a víc.
Druhým aktérem je pak občanská společnost: novináři, spolky i jednotlivci. Ti všichni, z různých pozic a z různých důvodů, zpravidla v podobných situacích volají po tom, aby snaha o maximální bezpečnost zároveň nevedla k omezení svobod a k porušování zákonů. (Respektive někdy nevolají, což je však více než co jiného neklamná známka o nepříliš vysoké míře demokracie v dané zemi).
I v našem aktuálně prožívaném příběhu musejí podobná volání probíhat. Neměli bychom zkrátka již nyní automaticky předpoládat, že „nějaké svobody asi budeme muset nějakým způsobem omezovat, zdá se“, jak řekla v rozhovoru třeba Světlana Witowská.
Pojďme na to: proč bychom se tedy před chystaným policejním Jednotným analytickým nástrojem měli mít na pozoru?
Proč hlídat hlídače
Každé shromažďování a propojování údajů v masovém měřítku (a právě takovým se JAN zatím zdá být) obecně nutně vede ke zvýšenému riziku zneužití. Je přitom jedno, zda dostupné údaje využije svévolně přímo policista, či zda údaje vytáhne ven pro někoho jiného.
Připomeňme, že sice žijeme v zemi se stabilním a funkčním právním řádem, přesto v zemi, kde milenka premiéra úkolovala agenty tajné služby, aby sledovali jeho manželku, což bylo umožněno právě nedostatečnou kontrolou.
Bude-li JAN umožňovat automatizované upozornění na podezřelé chování na bázi umělé inteligence či strojového učení, roste zde významně i riziko falešné pozitivity, tedy vzniku případů, kdy systém označí někoho za podezřelého chybně. Je pak na lidské kontrole, aby dokázala vyhodnotit reálná nebezpečí. Čím rutiněji je přitom využívána technologie, tím bývá schopnost člověka vyhodnotit její limity menší.
Problémem zde může být i efekt následného zahlcení bezpečnostních složek. Ten je mimochodem jedním z důvodů, proč nedávno po výrazném občanském tlaku spadl pod stůl nápad Evropské komise na plošnou kontrolu elektronické komunikace, kdy bylo zamýšleným cílem například odhalování dětské pornografie.
Konečně přejděme od předběžných domněnek k faktům: je tomu totiž shodou okolností pár měsíců, kdy česká policie již jeden analytický nástroj představila. A nebyla to pěkná podívaná…
Že policie provozuje systém Digitální podoba osob, v rámci kterého může automatizovaně vyhledávat v databázi téměř 20 milionů obličejů z českých občanek a pasů, což jí teoreticky umožňuje například pouze z fotek na sociálních sítích či z dostatečně kvalitních kamerových záznamů odhalovat identitu tváří, jsme se totiž dozvěděli až na základě námi podaných žádostí o informace minulý rok v létě. Na naše zjištění pak policie reagovala lehce bizarní zprávou, kdy si v rozhovoru sama se sebou na otázku tajíte něco? odpovídá ne.
To je přitom docela případná otázka. O systému jsme se totiž dozvěděli až rok poté, co byl již v ostrém provozu. Jen pár měsíců před spuštěním se přitom zástupci policie zúčastnili celodenního semináře o biometrickém dohledu – ani zde o systému nepadlo ani slovo. Třešničkou na dortu budiž, že Posouzení vlivu na ochranu osobních údajů, u podobných systémů povinné, zpracovala policie právě až s ročním zpožděním po mediálním tlaku.
Nutnost nepříjemných otázek
Příklad nástroje Digitální podoba osob ukazuje způsob, jakým policie dosud přistupovala k novým technologickým nástrojům ve své práci.
Policie v podstatě nevidí rozdíl mezi sledováním veřejného prostoru kamerou analogovou a kamerou s biometrickým rozpoznáváním tváří. Obojí se podle policie opírá o shodné obecné oprávnění monitorovat veřejný prostor nebo vést databázi digitálních fotografií.
Dopad do soukromí ale není možné měřit pouze množstvím údajů, které má policie k dispozici, ale především způsobem, jak efektivně je schopna s nimi pracovat, včetně jejich propojování.
Je tak fajn, že tentokrát o pravděpodobné existenci systému JAN víme alespoň dopředu. To nám dává šanci ovlivnit, jaká data budou jeho součástí, jak bude systém pracovat, kdo, kdy a za jakých okolností do něj bude mít přístup.
Nezbývá než doufat, že se jako občanská společnost nenecháme svázat strachem a emocemi a budeme mít sílu tyto nepříjemné otázky pokládat.
Autory komentáře je tým Iuridicum Remedium: neziskové organizace, která se ve svém programu Digitální svobody dlouhodobě zabývá ochranou soukromí. Od pandemie se výrazně věnuje také problematice digitálního vylučování a z toho vyplývajícímu „právu na analog“. Každoročně pořádá Ceny Velkého bratra.
Pop-up mobil Mobile (207451)
SMR mobil článek Mobile (207411)
SMR mobil článek 2 Mobile (207416)
SMR mobil článek 2 Mobile (207416-2)
SMR mobil článek 2 Mobile (207416-3)
SMR mobil pouze text Mobile (207431)
Líbil se vám tento text? Pokud nás podpoříte, bude budoucnost HlídacíPes.org daleko jistější.
Přispět 50 KčPřispět 100 KčPřispět 200 KčPřispět 500 KčPřispět 1000 KčPlatbu on-line zabezpečuje Darujme.cz
Recommended (5901)
Čtěte též
Němečtí extremisté na exkurzi v české sněmovně. S Okamurou jako průvodcem
Fašismus 21. století. Klíčovým zdrojem jsou technologie a globální vliv
Skyscraper 2 Desktop (211796-4)
8 komentářů
Policie 2.5 hodiny věděla, že po zuby ozbrojený pachatel vraždy svého otce jede na FF. Za tu dlouhou dobu mohly být všechny budovy FF prázdné, bez studentů, vyučujících a jiného personálu.
To by byla správná reakce a nemusel být zmařen jediný lidský život.
Ale proč této zbytečné tragédie nezneužít k buzeraci lidi?
A tak s vymýšlí další a další omezení svobod běžného člověka.
Policie nevěděla.
Nevěděla, protože nejsou propojeny veškeré databáze, jež si o nás vedou úřady, s cílem předpovídat naše (zlo)činy.
Takže, pokud Policii ČR vyčítáte, že v centru Prahy neprováděla manévry, tak jí povolte „buzeraci“, své vlastní osoby, samozřejmě.
Díky
•implantovaným čipům (několik, nebudete vědět kolik a v kterých částech těla je máte)
•povinnému skenování duhovky při vstupu do všech budov, prostředků MHD atd.
•zákazu používání deodorantů a voňavek (umělé vůně by mohly zakrýt Váš přirozený tělesný pach, snímaný automatickými „čenichy“ všude v obcích – je přece nutno počítat s pachateli, kteří si implantovali cizí čipy a nasadili si kontaktní čočky s jinou kresbou duhovky!)
budete v úplném bezpečí, Policie si pro „budoucího“ sprostého pachatele přijde kamkoli, kdykoli.
Na shledanou v lepších časech!
Máte to špatně paní. Policie nevěděla, že bude mít takový luxusní náskok. Měla jednat hned. Zkuste to opravit….
Myšlenka tzv. Preventivní policie není nová; možná si pár starců pamatuje na film z roku 2002 http://cs.wikipedia.org/wiki/Minority_Report_(film)
A ještě dřív zde byl Lombroso http://cs.wikipedia.org/wiki/Cesare_Lombroso, ale to je pro dnešní mladé Jurský park.
Takže si to střihneme v praxi, v éře AI http://www.project-syndicate.org/commentary/ai-chatbots-naive-idiots-no-sense-of-irony-by-slavoj-zizek-2023-03
Dočkáme se jako husa klacku.
Minority report je podle stejnojmenné povídky Philipa K. Dicka z roku 1956.
Tato aplikace s vysokou pravděpodobností nezachrání ani jeden lidský život. Bude jen zdrojem efektivnějšího napadání disidentů a dalších odpůrců stále narůstající totality.
Jak to uvedla Radka: Pokud by policisté byli co k čemu, mohli zasáhnout i bez takového systému. A pokud nebude vůle, nezasáhnou ani tehdy, když jim systém odpredikuje možnost hromadné vraždy daleko explicitněji.
A vůbec se nedivím konspiracím, že toho podezřelého na tu fakultu pustili záměrně, aby se mohly o něco víc utáhnout šrouby totalitního režimu. Prostě, „z vonku to tak vyzerá“, jako v tom vtipu o bačovi.
MMCH, kdysi frčela akce „Stop 24“, značka, kterou si měli dávat na auto lidé, co nejezdí přes noc a noční pohyb auta by měl být pobídkou policii, aby ho zastavila a prověřila řidiče.
Já sice v noci prakticky nejezdím, ale zavrhl jsem to, protože auto, ukradené a odvážené třeba na Ukrajinu, bude pod dozorem mafií placených policistů, zatímco pokud bych já akutně vezl někoho z rodiny do špitálu, stavěli by mě na každém rohu (protože nejsem mafián) a mohl bych taky dojet pozdě.
Nehledě k tomu, že nedá moc námahy a nezabere moc času tu značku odstranit.
Hlavně už přestaňte inspirovat dalšího případného magora dalšími a dalšími rozbory této tragédie nechte tu práci odborníkům. Děkuji
Už jsem vyplnil.