Dětskou pornografii a jiný evidentně nelegální obsah by mohly ještě před rozhodnutím soudu dočasně zablokovat samotné sociální sítě. Třeba výroky Donalda Trumpa ale jenom soukromé firmy posuzovat nemohou, říká v rozhovoru pro Euractiv.cz místopředseda Evropského parlamentu Marcel Kolaja (Piráti, Greens/EFA).

Bylo správné rozhodnutí, když společnosti Twitter, Facebook a Youtube zablokovaly účty tehdejšího amerického prezidenta Donalda Trumpa?

Na jednu stranu absolutně odsuzuji výroky Donalda Trumpa, obzvlášť pokud jde o výroky o ukradených volbách či jeho přímé i nepřímé vyzývání k násilí. To však není něco, co bych měl hodnotit já. A stejně tak by to neměl hodnotit Facebook nebo Twitter.

Pokud Donald Trump provedl něco nelegálního, nebo dokonce pokud on sám představuje bezpečnostní hrozbu, o tom musí rozhodnout nezávislé soudy. Ty mohou vydat tzv. předběžné opatření, na základě kterého může platforma účet zablokovat. Ale sama sociální síť by o tom rozhodovat neměla, to je nepřípustné.

Rozhovor Lukáše Hendrycha vyšel původně na serveru Euractiv, s nímž HlídacíPes.org spolupracuje.

Někdy se ale celá situace přirovnává „k vyhození opilého hosta z baru, protože se chová nepřípustně“. Jedná se přece o soukromou společnost, která si ve svém prostoru může dělat co chce, a to včetně stanovení podmínek užívání. Nebo ne?

Já jsem přesvědčen o tom, že na sociální sítě, které jsou na trhu dominantní a mají zde téměř monopolní postavení, nemůžeme pohlížet jako na nějakou hospůdku na růžku, odkud vás můžou bez dalšího vyhodit. Toto jsou globální sociální sítě, které svůj obchodní model staví – a musím říct, že úspěšně – na vytváření veřejného prostoru. A v tu chvíli se na ně pochopitelně musejí vztahovat pravidla, která jsou přiměřená jejich vlivu.

Takže právo na svobodu projevu a právo na informace v tomto kontextu převažují nad právem svobodně podnikat se vším, co s tím souvisí?

Ani jedno z těchto práv není absolutní. Pokud zde máme sociální sítě vytvářející veřejný prostor pro veřejnou diskuzi, tak v takovém případě právo svobodně se vyjádřit převažuje nad právem vytvářet si na své soukromé síti vlastní pravidla podle své libovůle. Prostor sociálních sítí už totiž ve své podstatě není soukromým prostorem.

Větší slovo soudům

Říkáte, že rozhodnutí o smazání či zablokování obsahu by měly činit nezávislé a nestranné soudy. O povinnosti mazat nezákonný obsah mluví i návrh aktu o digitálních službách, který Komise nedávno představila. Znění návrhu je ale poněkud vágní v tom, kdo má odstranění obsahu nařídit. Text hovoří jen o tzv. kompetentní autoritě. To si ale každý stát může vyložit po svém…

Jedním z problémů aktu o digitálních službách je, že ponechává velkou část rozhodnutí na samotných platformách. Na tom chci během legislativního procesu pracovat. Tento stav chci změnit k lepšímu.

Jakým způsobem?

Jednoduše. O tom, co je nelegální, musí rozhodovat nezávislé a nestranné soudy. Takto explicitně by to mělo být v návrhu napsáno.

Na druhou stranu akt o digitálních službách hovoří o nezákonném (nelegálním) obsahu. Typicky tedy půjde o obsah naplňující skutkovou podstatu trestného činu. Ale o tom, zda byl spáchán trestný čin, přece mohou rozhodovat jen trestní soudy v trestním řízení.

Nemyslím si, že musíme ze všeho nejdříve dojít k závěru, že je něco trestné, že byl spáchán trestný čin. Pokud je důvodné podezření si myslet, že je něco nelegální, tak by mělo přijít na řadu vydání už zmíněného předběžného opatření, kterým soud smazání příspěvku nařídí. Ale i takové předběžné opatření musí vydávat nezávislé a nestranné soudy a nikdo jiný.

V rámci naší politické skupiny jsme představili modelový zákon, který se týká principu „notice and action“ („upozornění a opatření“, pozn. red.). Zde jsme stanovili dvě úrovně. V té první by se jednalo o evidentně nelegální obsah, typicky dětskou pornografii apod. To by mohly v první fázi posuzovat samotné platformy, které by takový obsah dočasně zablokovaly. Konečné rozhodnutí by však měl učinit opět jen soud. Do druhé úrovně by spadal tzv. potenciálně nezákonný obsah. Ten by musel vždy posuzovat nezávislý soud. Typickým příkladem je jednání Donalda Trumpa. To rozhodně nemůžou posuzovat soukromé firmy, jelikož se jedná pouze o potenciálně nelegální obsah.

Důležitou roli zde hraje čas. Nebyl by to příliš velký nápor na justiční systém, pokud by měly soudy rozhodovat o každém takovém nahlášeném příspěvku? Takových nezákonných či potenciálně nezákonných příspěvků je jen v České republice každý den obrovské množství.

Dnes tuto práci dělají soukromé společnosti. Nevidím důvod, proč by soudy měly být v tomto ohledu pomalejší než ony. Od okamžiku nahlášení příspěvku až do jeho smazání či zablokování – celý tento proces lze zautomatizovat. Kromě toho finálního rozhodnutí, to samozřejmě činí člověk.

Můžete být v tomto ohledu konkrétnější?

Uživatel nahlásí nelegální obsah. Tato informace se dostane k sociální síti a ta ji automaticky přepošle soudní autoritě v daném státě. V rámci soudu samozřejmě musí rozhodnout člověk. Ve chvíli, kdy dojde k rozhodnutí, se informace ze soudu zašle zpět na platformu, což může být zase prováděno digitální formou v reálném čase.

Navíc je třeba dodat, že v rámci soudu mohou určitá rozhodnutí činit nejen soudci, ale třeba i vyšší soudní úředníci nebo justiční čekatelé…

Já dokonce předpokládám i debatu o tom, jak přesně by měly být definovány podmínky takového procesu rozhodování na soudech a kdo přesně by o tom měl rozhodovat. Ale pořád si stojím za tím, že rozhodnutí v meritu věci musí učinit nezávislý a nestranný orgán. Tedy soud.

Akt o digitálních službách se kromě nezákonného obsahu věnuje i tzv. škodlivému obsahu, tedy hlavně dezinformacím. Komise přitom zdůrazňuje, že nechce takový obsah mazat. Spíše se chce zaměřovat na algoritmy a jejich fungování a transparentnost. Je to správná cesta, jak bojovat proti dezinformacím?

Mazání na základě toho, že někdo nějakou informaci vyhodnotí jako dezinformaci, je velmi nebezpečné. Tímto směrem se určitě nechci vydávat.

Dezinformace se úspěšně šíří zejména v případě, kdy je dezinformační kampaň někým dobře financována. Musíme se proto bavit o transparentnosti zadávání reklam na internetu a procesů a pravidel tzv. mikrozacílení (micro-targeting). To jsou přesně způsoby, kterými se prohlubují dezinformační králičí nory, kdy uživatelům nasadíte klapky na oči a necháváte je číst pouze materiál, kterým prohlubujete jejich deziluzi o světě, pouze je utvrzujete v jejich pohledu na svět.

V rámci legislativního procesu o této problematice očekávám velkou debatu. Za prvé, měli bychom velmi striktně regulovat internetovou reklamu, která staví na citlivých osobních datech. Za druhé, je třeba sledovat finanční toky, aby nebylo možné jednoduše nasypat peníze do nějaké dezinformační kampaně. Je jasné, že v tomto ohledu musí existovat závazná regulace.

Zmínil jste také politickou reklamu. Komise se už nechala slyšet, že v druhé polovině tohoto roku představí směrnici o politické reklamě. Budete se na ní podílet?

To vám zatím nedokážu říct. Musíme počkat až bude jasnější, co by v té směrnici mělo být. Pokud se to bude dotýkat online platforem, předpokládám, že se tomu věnovat budu.

Když Orbán maže obsah

V Bruselu míří do finální fáze legislativního procesu nařízení o prevenci šíření teroristického obsahu online. O legislativě bude v brzké době hlasovat plénum Evropského parlamentu. Jaký je váš pohled na toto nařízení?

S mým kolegou z německé pirátské strany se nám podařilo do finálního znění prosadit několik důležitých věci. Za prvé, legislativa jasně vylučuje povinnost používat tzv. upload filtry. Za druhé, podařilo se nám uhájit výjimku pro novinářské, umělecké či vzdělávací účely.

Stejně tak je důležité zmínit, že nařízení se vztahuje pouze na veřejný obsah. Nebude zde tedy povinnost prohledávat soukromý obsah komunikace. Dále se nám podařilo prosadit možné výjimky z povinnosti smazat teroristický obsah do jedné hodiny od vydání příkazu k takovému smazání.

V čem přesně výjimka spočívá?

Je to výjimka pro malé či nekomerční poskytovatele služeb, kteří nemají prostředky a možnosti reagovat do jedné hodiny od vydání příkazu. Bohužel tam ale zůstaly i problematické body. Pokud jde o upload filtry, sice zde není povinnost je používat, ale není to zakázané. Legislativa jejich používání implicitně doporučuje.

Stejný přístup byl zvolen i v aktu o digitálních službách. Ani zde není zakotvena povinnost automatického a plošného monitoringu obsahu pomocí upload filtrů, ale legislativa tuto možnost nezakazuje.

Přesně tak. To je velký problém. Upload filtry nikdy nebudou schopny rozpoznat třeba výše zmíněné výjimky, jako je novinářský obsah, vzdělávací obsah nebo třeba satirické příspěvky.

Ještě bych se vrátil k tomu nařízení o prevenci šíření teroristického obsahu online. Tato legislativa totiž umožňuje, aby příkaz ke smazání teroristického obsahu nevydával jen soud, ale třeba i ministerstvo či jiný orgán státní správy.

Jak už jsme zmínili, i toto nařízení, stejně jako akt o digitálních službách, používá velmi vágní pojem kompetentní autorita. Nebo v českém znění „příslušný orgán“…

Ano, to je velice široké vymezení a státy si to mohou vyložit různě. Proto jsme prosazovali termín „politicky nezávislá kompetentní autorita“, což je vlastně jen nezávislý a nestranný soud. Podle současného znění tak může dojít k politizaci takových rozhodnutí o smazání obsahu.

Navíc, příkazy budou mít podle nařízení přeshraniční účinek, kdy orgány kteréhokoli členského státu mohou nařídit odstranění obsahu firmě sídlící v jiné členské zemi. Domyšleno do důsledků, třeba vláda Viktora Orbána bude schopna odstranit příspěvek viditelný v celé Evropě. To by se stalo v případě, kdy by v Maďarsku o vydání takového příkazu rozhodovalo třeba tamní ministerstvo. V tomto ohledu hrozí zpolitizování rozhodnutí.

Může se jednat o situace, kdy někdo kritizuje vládu Viktora Orbána a ten toto nařízení zneužije a prohlásí určitou organizaci třeba za ekoteroristickou. Taková politizace rozhodnutí hrozí a mechanismy obrany proti tomu jsou extrémně omezené.

Nařízení ale počítá s možností právní obrany, jakéhosi odvolání se proti příkazu ke smazání obsahu. To nestačí?

Nestačí, protože mechanismus funguje tak, že ve chvíli, kdy jde o přeshraniční příkaz, tak kompetentní autorita v cílové zemi souhlasí s tímto příkazem, pokud jej ve stanovené lhůtě nerozporuje.

Lhůta pro kompetentní autoritu ze státu sídla firmy na rozporování je 72 hodin. Další problém je, že může příkaz rozporovat pouze ve velmi specifickém případě závažných zásahů do občanských svobod. V ostatních případech toto právo odporu nemá. Poskytovatel služby a ten, jehož obsah byl odstraněn, pak může rozporovat odstranění ve státě sídla poskytovatele, ovšem pouze po dobu 48 hodin od odstranění.

Omezit sílu gigantů

Pojďme se vrátit na začátek, konkrétně k tržní síle internetových gigantů. Jejich dominantní postavení řeší další návrh Komise, a to akt o digitálních trzích. Komise v něm navrhuje, jak tržní prostředí na internetu otevřít i menším hráčům a start-upům. Jak vidíme v posledních týdnech, argumenty typu „založte si vlastní síť, když se vám naše pravidla nelíbí“, nefungují. Důvodem je, že bariéry vstupu na tento trh pro menší hráče jsou prakticky nepřekonatelné.

Možnost, jak si založit vlastní sociální síť či komunikační platformu, existuje. Tou možností je decentralizace takovýchto služeb. Já sám používám decentralizovanou sociální síť Mastodon. To je open source sociální síť, která umožňuje, že na internetu může fungovat celá řada na sobě nezávislých serverů. Neexistuje tedy jedna jediná firma, která tuto síť poskytuje a spravuje.

Dobrým příkladem tohoto principu je email. Nemusíte mít emailovou stránku u konkrétní společnosti, abyste mohli komunikovat skrze elektronickou poštu. Posílat emaily je možné napříč různými poskytovateli. Na tomto federovaném principu je postavená i síť Mastodon.

Problém, na který poukazujete, je ale zřejmý – jak docílit toho, aby lidé z Facebooku či Twitteru na tyto alternativní platformy přecházeli?

Lidé používají Facebook, Twitter či Messenger, protože tyto platformy používá drtivá většina jejich přátel, známých a kolegů. Je to tedy začarovaný kruh. Mnoho lidí používá Messenger, protože mnoho lidí používá Messenger.

Přesně tak. Ale řešení tohoto problému existuje. Je třeba zajistit, aby lidé na jedné platformě mohli komunikovat s lidmi na jiné platformě. Například pokud jde o zmíněný Mastodon, je třeba zajistit, aby uživatel Mastodonu měl skrze tuto platformu přístup na Facebook. Jedná se o tzv. princip interoperability a třeba akt o digitálních trzích s ním počítá, což je velmi dobře.

Dominantní platformy by tak měly povinnost poskytnout jiným platformám své rozhraní, minimálně do jisté míry. Typicky své chatovací systémy a tak podobně. Akt o digitálních trzích to ale prozatím nestanovuje jako povinnost, spíše jako možnou cestu. To chci změnit, nařízení by to mělo zakotvit jako povinnost. Dokud mechanismus interoperability nezačne skutečně fungovat, tržní prostředí na internetu se nemá šanci narovnat.

Abych si to lépe představil. Princip interoperability spočívá v tom, že mám účet třeba na síti Mastodon a tam na své „zdi“ vidím – byť třeba v omezeném režimu – obsah Facebooku, příspěvky, které na něj vkládají mí přátelé a mohu s nimi chatovat, i když já budu používat Mastodon a oni Facebook? To všechno bez nutnosti mít facebookový účet?

Ano, to je přesně ten princip interoperability.

Pokud jde o akty o digitálních službách a digitálních trzích, jsme na začátku legislativního procesu. Předpokládá se, že celý proces bude trvat přibližně dva roky. To by znamenalo, že jeho finální fázi bude mít na starosti Česká republika, a to v rámci svého předsednictví ve druhé polovině roku 2022. Měla by Česká republika této příležitosti využít a klást na tuto legislativu větší důraz?

O tom jsem přesvědčen. Každá evropská legislativa je potažmo národní legislativou, a to z důvodu povinnosti její implementace do národních právních řádů. V současné době neexistuje dostatečná debata na úrovni České republiky o těchto dvou návrzích. Zákonodárci by se tomuto tématu měli určitě věnovat už nyní.