Hlavním testem toho, jak a zda se podaří účinně odfiltrovat vulgarity, urážky a nenávistný obsah v diskusích na sociálních sítích byly loňské prezidentské volby v České republice. Tehdy vznikající aplikace „zdi proti trollům“, TrollWall, se ve službách týmu Petra Pavla osvědčila. Od té doby ji začala používat média v Česku i na Slovensku, soukromé firmy, ale i armáda a policie.

„Všechny jazykové modely si děláme sami, včetně programování a využití umělé inteligence. U nenávistných projevů musíte umět pracovat s národními jazyky. My nyní umíme češtinu, slovenštinu, polštinu, rumunštinu, němčinu, angličtinu a nově i španělštinu, protože máme nového klienta v Mexiku,“ vypočítává manažer TrollWallu pro Česko Roman Číhalík.

Jeho jméno není v oblasti odhalování dezinformací neznámé. Stojí mimo jiné za projektem Nelež, který zveřejňuje soupis tuzemských dezinformačních webů a jemuž se podařilo prosadit, že veřejní zadavatelé online inzerce musí zohledňovat to, zda tím finančně nepodporují konspirační weby a dezinformátory.

Vybije si svou frustraci, ale zároveň se tím nevytváří toxické prostředí, kde se hejty násobí. Když na trolly nikdo nereaguje, jdou jinam.

Informace o dezinformačních webech ostatně využívá i aplikace TrollWall. „Automaticky se filtrují texty, které odkazují na dezinformační weby,“ říká Číhalík. Vedle toho systém rozpoznává – a všem kromě autora příspěvku – skrývá komentáře obsahující vulgarismy, nenávistné projevy a spam.

Vybít si svou frustraci

„Zeď proti trollům“ funguje jako automatický filtr, respektive jako webové rozhraní, do nějž si klient zadá své účty na sociálních sítích Facebook, TikTok, Instagram nebo YouTube (síť X zatím zahrnuta není) a kde pak může kromě jiného i sledovat a analyzovat množství a druh nenávistných výlevů.

„Podíl správného vyhodnocení a zachycení je nyní na 97 %. Podstatné je, že autorovi nenávistného komentáře se jeho text zobrazuje, ale ostatní jej nevidí. Nestěžuje si tedy na to, že ho někdo maže, vybije si svou frustraci, ale zároveň se tím nevytváří toxické prostředí, kde se hejty násobí. Když na trolly nikdo nereaguje, jdou jinam,“ vysvětluje Číhalík.

Sytém už využívají i některé české firmy, například Innogy, Česká spořitelna a Letiště Praha. Mezi klienty v Česku je i několik médií: týdeník Respekt, Forum 24 nebo Český rozhlas.

Zájemci jsou prý i z některých tuzemských politických stran. „Z etických důvodů pracujeme jen pro některé z nich, pro některé naopak určitě dělat nebudeme. Peníze nejsou všechno.“

Podle Číhalíka prý ale nehrozí, že se ocitnou v „bublině“ stejně smýšlejících, nebo že firmy budou takto mazat i oprávněnou kritiku svých služeb či výrobků: „Třeba podle zkušenosti slovenského Denníku N se ukazuje, že do diskusí chodí lidé, které dříve to toxické prostředí odrazovalo, zvýšil se zájem o jejich obsah a vzniká spíše pozitivní komunita. A pokud jde o firmy, běžné stížnosti to nefiltruje, když ale obsahují vulgarity, tak ano.“

TrollWall začala testovat a využívat i česká policie a armáda, v jednání je prý možná spolupráce s Europolem. „Umíme detekovat například i výhrůžky typu, že někdo někam půjde a něco vystřílí… Zatím je to primárně detekce a filtrace nenávistných projevů, ale pracujeme i na včasné výstraze. Pokud jde o analýzu nenávistných projevů či výhrůžek, to je již ryze věcí policie, jak s tím dále naloží.“

Zájemci jsou prý i z některých tuzemských politických stran. „Z etických důvodů pracujeme jen pro některé z nich, pro některé naopak určitě dělat nebudeme. Peníze nejsou všechno,“ podotýká Číhalík.

Jako první si TrollWall ještě v „nadšenecké“ fázi vyzkoušel tým bývalé slovenské prezidentky Zuzany Čaputové, poté i volební tým současného českého prezidenta Petra Pavla: „Třeba u živých přenosů na YouTube to byly desítky tisíc komentářů denně, které se dařilo analyzovat v podstatě v reálném čase. Na základě téhle pozitivní zkušenosti z toho, že to funguje, jak má, firma vznikla.“ Důsledkem bylo rozhodnutí založit start-up, sehnat první financování a zkusit se s ideou prosadit i komerčně.

Průměr je 15 % hejtů

Pro své analytické účely TrollWall monitoroval například i výskyt toxických komentářů po vražedném útoku na FFUK v Praze loni v prosinci. Zanalyzoval 44 722 komentářů, z nichž 14 procent bylo nenávistných. Takové číslo prý odpovídá běžnému průměru nenávistných projevů ve společnosti. „Průměrný podíl hejtů je kolem 15 % z celku,“ říká Číhalík.

TrollWall nyní každý měsíc zpracuje v rámci monitoringu přibližně deset milionů komentářů. Na žádné důkladnější sledování dlouhodobých trendů prý zatím není čas, některé zajímavé detaily se ale ukazují již nyní:

„Třeba v Polsku se nejvíc nenávistného obsahu objevuje v komentářích mezi čtvrtou a šestou hodinou ranní. Nevím ale, jestli je to kvůli tomu, že tak brzy vstávají, nebo že jdou po náročné noci teprve spát.“