Americká Komise pro cenné papíry má prošetřit stížnost na společnost Meta. Tu podal mladý rohingský aktivista Maung Sawyeddollah, přeživší barmské genocidy, a podpořily jej v tom i lidskoprávní organizace. Podle nich sociální síť Facebook významně přispěla k rozdmýchání nepokojů a následných zvěrstev páchaných v Myanmaru v letech 2013–2019. Popíráním tohoto faktu navíc – podle znění stížnosti – klamala své akcionáře, kteří žádali záležitost prošetřit.

Lidé, kteří přežili masivní čistky muslimské menšiny Rohingů myanmarskou armádou v srpnu 2017, je popisují slovy jako brutální vraždění, mučení, zapálené a zničené vesnice.

V důsledku útoků se z Arakanského státu na západě Myanmaru během několika týdnů přesunulo do sousedního Bangladéše přes 700 tisíc Rohingů, kteří tam ve většině setrvávají v pohraničních uprchlických táborech doposud.

Ačkoliv události ze srpna 2017 i jim předcházející diskriminaci a útoky na muslimské Rohingy označil za genocidu Mezinárodní soudní dvůr v Haagu, ale také několik zemí včetně USA, myanmarská vláda obvinění popírá. A popírá ho také americká společnost Meta, na kterou podalo začátkem tohoto roku stížnost k americké Komisi pro cenné papíry několik lidskoprávních organizací.

Ve stížnosti detailně popisují, jak aktivisté i výzkumní pracovníci před srpnem 2017 opakovaně upozorňovali společnost Meta, že Facebook je využíván a bude využit k podněcování násilí proti Rohingům.

Stěžují si, že Meta, která provozuje sociální platformy jako Facebook nebo WhatsApp významně přispěla k rozdmýchání a páchání násilí proti Rohingům, jakkoliv byla příslušníky této menšiny opakovaně upozorňována, že se tak děje.

„Otázka odpovědnosti za to, co se Rohingům stalo v roce 2017, přesahuje rámec zločinů, které přímo provedla armáda: musí zahrnovat i ty, kdo jsou odpovědní za urychlení a zesílení vlny veřejné nenávisti a podněcování k násilí, která se proti Rohingům spustila na internetu před vojenskými zvěrstvy i během nich,“ vysvětluje důvod stížnosti organizace Open Society Justice Initiative.

Algoritmy násilí

Podle zjištění několika lidskoprávních organizací, které k problematice vydaly obsáhlou zprávu už před třemi lety, značnou část materiálů podporujících nenávist a násilí přenášel Facebook, který je myanmarskou dominantní internetovou platformou.

„Ze 24 milionů uživatelů internetu v zemi jich Facebook používá 18 milionů,“ cituje ze stížnosti Open Society Justice Initiative. Ostatně to už v roce 2018 potvrdila zpráva nezávislé mezinárodní vyšetřovací mise OSN, která uvedla, že v době zvěrstev roku 2017 byl Facebook synonymem pro internet a s ním i hlavním zdrojem online zpráv a informací.

„Na Facebooku jsem viděl spoustu hrozných věcí a myslel jsem si, že lidé, kteří tam publikují, jsou prostě zlí. Tehdy jsem si ještě neuvědomil, že za to vlastně může Facebook. Pak mi to, ale s přečtením jednoho konkrétního nenávistného příspěvku, došlo, snažil jsem se to Facebooku nahlásit. Uvedl jsem, že jde o nenávistný projev, ale dostal jsem odpověď, že obsah není v rozporu se standardy komunity,“ říká přeživší masakrů z roku 2017 Maung Sawyeddollah, jeden z autorů stížnosti podané k Americké komisi pro cenné papíry.

Ti ve stížnosti detailně popisují, jak aktivisté i výzkumní pracovníci před srpnem 2017 opakovaně upozorňovali společnost Meta, že Facebook je využíván a bude využit k podněcování násilí proti Rohingům.

V dokumentu pak argumentují, že Meta ve svých prohlášeních pro investory klíčové informace o tomto riziku vynechávala. Opakovaně jim tvrdila, že algoritmy Facebooku nevedou k polarizaci myanmarské společnosti, ani k šíření nenávistného obsahu.

Armáda zatkla tři muže, které ze zločinu obvinila, k soudu ale nedošlo, protože všichni tři zemřeli ve vězení.

„Přestože investoři požádali Metu, aby se zabývala dopady svého podnikání na lidská práva, společnost vůči nim zdaleka nebyla plně transparentní, a to i přesto, že do té doby byla několikrát varována před eskalací situace v Myanmaru a roli Facebooku v ní,“ uvedl výkonný ředitel Open Society Justice Initiative James Goldston.

Podle něj byli i zaměstnanci společnosti Meta v letech 2013–2017 občanskou společností opakovaně varováni, že platforma přispívá k blížící se „genocidě“, podobně jako rádia hrála roli při genocidě ve Rwandě.

Možný ruský vliv

Konkrétní příklady šíření nenávistných, možná i lživých zpráv, popsal HlídacíPes.org lidskoprávní pracovník Igor Marjanovič, který v Myanmaru pracoval v letech 2012–2016 pro organizaci podporující vzdělávání.

„Začalo to tím, že sociální sítě obletěla zpráva z oblasti, kde není ani elektřina, natož internet, že v jedné zapadlé vesnici tři muslimové znásilnili a zavraždili mladou dívku, buddhistku,“ popisuje Marjanovič. Fotografie tohoto brutálního činu podle něj během několika hodin zaplavily sociální sítě.

„Zvláštní na tom všem je, že to byla skutečně velmi odlehlá oblast. Nikdo dodnes nevyšetřil, co se tam vlastně stalo, kdo byla ta dívka, jak ten zločin měl proběhnout,“ říká Marjanovič.

Armáda zatkla tři muže, které ze zločinu obvinila, k soudu ale nedošlo, protože všichni tři zemřeli ve vězení. „Dva týdny poté došlo k dalšímu činu, tentokrát ale obráceně. Několik mužů na motorkách, buddhistů, napadlo autobus, kterým cestovali muslimští poutníci a sedm jich zavraždili. A opět zprávy o tom doslova zaplavily prostor sociálních sítí. Nenávist rozdmýchána,“ popisuje události z roku 2013 Marjanovič.

Podle něj následovaly další zprávy, které společnost vysoce polarizovaly.

„V podstatě co 14 dnů se začaly objevovat na Facebooku zprávy z různých koutů Myanmaru popisující různé druhy násilí. Vedlo to k tomu, že se někteří buddhisté začali masově organizovat pod vedením radikálních buddhistických mnichů a útočili na muslimské obyvatelstvo,“ říká Marjanovič, podle nějž nebyla náhoda, že se tak dělo před klíčovými volbami roku 2015, kterých se mohla po letech domácího vězení a internací účastnit i prodemokratická kandidátka a držitelka Nobelovy ceny míru Do Aun Schan Su Ťij.

„Armádní kruhy předpokládaly, že zvítězí vůdce vojenské junty Min Aun Hlain. Prezentovaly ho jako mírotvorce a někoho, kdo pozvedne ekonomiku, jenže v roce 2013 se konaly okrskové volby a ukázalo se, že drtivě vítězí strana Su Ťij. Armáda pochopila, že potřebuje jiný narativ. Narativ, že národ je ohrožen ze strany muslimů,“ popisuje tehdejší atmosféru Marjanovič.

Sám nevylučuje, že zprávy o násilných činech, které pak začaly zaplavovat internet s Facebookem jako hlavním kanálem, mohly pocházet od členů armády, kteří se školili v Rusku.

Bezohledné nasazení škodlivých algoritmů společnosti Meta se zanedbatelnými bezpečnostními opatřeními, podpořilo rozsáhlé protirohingské online kampaně, které přispěly k násilí i v reálném světě.

„Nemám pro to přímé důkazy a je to můj osobní názor, ale působilo to na mne jako systematicky připravená akce. Jeden ze zakladatelů profilů, ze kterého se šířila podstatná část zpráv o násilí, si zaregistroval příslušník armády, který byl v té době na školení v Rusku. Nicméně přímé zapojení Ruska nikdo zatím neprokázal,“ popisuje Marjanovič.

O roli Facebooku a působení jeho algoritmů na šíření zpráv o násilí a podněcování k dalšímu násilí ale vznikla už před třemi lety obsáhlá zpráva. Vydala ji Amnesty International.

Facebook jako jiskra

„Amnesty International zjistila, že Facebook používal algoritmy, jež posilovaly nenávistný obsah, který sociální síť moderovala velmi nedostatečně. Tím Facebook porušoval i svá vlastní pravidla definující přípustný obsah na platformě,“ uvádí lidskoprávní organizace ve zprávě.

Obchodní model společnosti Meta se podle ní opírá o invazivní profilování a cílenou reklamu, které podporují šíření škodlivého obsahu včetně podněcování k násilí.

„Algoritmické systémy společnosti Meta jsou navrženy tak, aby maximalizovaly zapojení uživatelů s cílem zvýšit příjmy z reklamy. Výsledkem je, že tyto systémy často upřednostňují podněcující, rozdělující a škodlivý obsah,“ uvádí Amnesty International. Chybou Mety byl také nedostatečný počet moderátorů obsahu s potřebnými jazykovými znalostmi.

„Náš předchozí výzkum ukázal, že algoritmy Facebooku důsledně vyzdvihují obsah, který vyvolává silné emocionální reakce, často na úkor lidských práv a bezpečnosti.“

„To bylo důsledkem zejména finančního rozhodnutí společnosti. Odráží to širší selhání Mety, která navzdory svým veřejným tvrzením adekvátně neinvestovala do moderování obsahu v mnoha zemích Asie, Afriky a Latinské Ameriky,“ uvádí zpráva Amnesty.

Eva Buzo, výkonná ředitelka organizace Victim Advocates International, která podpořila lednovou stížnost k americké Komisi pro cenné papíry k tomu uvedla:

„V Myanmaru, kde Facebook sloužil jako hlavní platforma sociálních médií a zdroj zpráv, bezohledné nasazení škodlivých algoritmů společnosti Meta se zanedbatelnými bezpečnostními opatřeními, podpořilo rozsáhlé protirohingské online kampaně, které přispěly k násilí i v reálném světě.“

Podle ní je na tyto skutečnosti potřeba upozorňovat i v souvislosti s nedávným rozhodnutím majitele společnosti Meta Marka Zuckerberga ukončit moderování obsahu na sociálních sítích. Jakkoliv se rozhodnutí zatím vztahuje pouze na USA, není vyloučeno, že by se mohlo časem rozšířit i na další země. Na to upozorňují i další signatáři stížnosti.

„Náš předchozí výzkum ukázal, že algoritmy Facebooku důsledně vyzdvihují obsah, který vyvolává silné emocionální reakce, často na úkor lidských práv a bezpečnosti. Po odstranění stávajících ochranných opatření pro obsah se zdá, že se tato situace ještě zhorší,“ uvedla na svých stránkách Amnesty International.

Podle organizace Mark Zuckerberg provedl změny v obsahových zásadách společnosti Meta, aby získal přízeň nové Trumpovy administrativy. Mezi změny zavedené na americkém území patří zrušení zákazů dříve zakázaných projevů, jako je například očerňování či obtěžování rasových a jiných menšin. Výrazně omezeno je také automatické moderování obsahu.