Před necelými dvěma lety společnost Facebook (dnes Meta) začala rozšiřovat opatření v sekci Nebezpeční jedinci a organizace. Meta nepovolila přítomnost na síti subjektům, jejichž cílem je šířit násilí nebo kteří jsou do násilných aktivit zapojení, přičemž se rozhodla hodnotit jejich chování online i offline. 

Meta provedla rozdělení do tří úrovní. V první se nachází teroristické, nenávistné a zločinecké organizace, v druhé subjekty, které se účastní násilí proti státním nebo vojenským aktérům. Ve třetí entity, které se mohou opakovaně dopouštět porušování zásad komunity nebo vykazují záměr se v budoucnosti zapojit do offline násilí. Sem patří militarizovaná sociální hnutí, konspirační sítě vyvolávající násilí a subjekty zakázané kvůli propagaci násilí. 

Boj s radikalitou

Meta k detekci obsahu splňující výše zmíněné parametry využívá algoritmy, které obsah vyhledávají například na základě předem určených klíčových slov. 

„Pokračujeme ve studování specifické terminologie, symboliky (…) a jazyka, které používají skupiny a hnutí, jež vyzývají k násilí a budeme podle toho jednat,“ zaznělo ve vyjádření společnosti k prováděným změnám. 

Rozhodnutí o odstranění obsahu či zablokování příslušných účtů je následně konzultováno s odborníky, přičemž značná část z nich strávila v minulosti určitý čas ve službách policie či tajných služeb. Meta následně přistupuje k odstranění obsahu z platformy, snížení jeho priority ve feedu či vyhledávání, omezení jeho zobrazování v doporučených nebo zamezení jeho financování či jakékoliv monetizaci skrze platformu. 

Jak bylo zmíněno v mnoha slyšeních před americkým Kongresem či armádou, Meta zkrátka bojuje s tím, co nazývá „radikální politické názory“, které představují značný risk pro veřejnou bezpečnost. 

„Naše společnosti se budou muset začít adaptovat na fakt, že ne všechny informace mají stejnou informační hodnotu a jsou si rovné. Miliony lidí, kteří se cítí být opomíjeni či utlačováni, používají Facebook k protlačování radikální politiky,“ vyjádřil se ke krokům tehdejší šéf bezpečnosti Facebooku Alex Stamos.

QAnon a socialisté na stejné lodi

Výsledkem změny politiky bylo odstranění deseti tisíců stránek, skupin, účtů a reklam na Facebooku a Instagramu. Opatření byla primárně namířena proti krajně pravicovému konspiračnímu hnutí QAnon a proti militantním sociálním hnutím, mezi které dle Facebooku patří například anarchistická antifašistická organizace Antifa. Mezi postiženými účty bylo však mnoho těch spojených s levicově orientovaným obsahem. 

Definitivně zablokovanou stránkou byla například platforma It’s Going Down, která publikuje zprávy, analýzy a reportáže o problémech spojených se sociální spravedlností a odkrývá neonacistické sítě a obdobně zaměřená stránka anarchistického kolektivu CrimethInc, které společně tvořily páteřní informační kanály krajně „levicového“ aktivismu. 

Mezi dočasně zablokovanými se ocitly kupříkladu skupiny, stránky a jedinci, kteří se angažovali v socialistické politice. Zasažena byla americká Socialist Workers Party a její studentská odnož, britská the Socialist Workers‘ Student Society, International Youth and Students for Social Equality z Michiganské univerzity a osobní stránka její národní tajemnice Genevieve Leigh. 

Blokaci se dále nevyhnuly ani účty, které se věnují ekologii a alternativním náhledům na uspořádání a fungování světa – mezi takové účty patří například Advaya, která pořádá kurzy a retreaty, které prozkoumávají intersekci ekologie, spirituality a komunity nebo účet Anarchist Environmentalist, který se věnuje vzdělávání v oblasti ekoanarchismu. Během inaugurace Joea Bidena bylo přidáno na seznam zakázaných účtů několik levicově orientovaných, kterým byla znemožněná komunikace na sociálních sítích, která by mohla vyústit například ve svolání protestu. 

Opatření, které Meta učinila bez bližšího vysvětlení jejich majitelům, měla být mířená proti účtům, které v minulosti porušily výše zmíněné zásady komunity. Někteří z majitelů se však vyjádřili, že k ničemu takovému nedošlo a i přesto jim byl zákaz udělen.

Podle aktivisty Akina Olly píšícího pro britský Guardian jde jen o další část dlouhé historie, kdy Meta zachází s levicovými aktivisty stejně jako s těmi extrémně pravicovými. 

„Má omezení byla sice dočasná, ale co v budoucnu zabrání Facebooku aplikovat obdobná opatření během dění spojeného s klíčovou společenskou změnou? Inaugurace byla jednou z událostí, kdy měli levicoví aktivisté mnoho důvodů protestovat, nicméně Facebook rozhodl, že takové protesty jsou nepřípustné. Organizace, která není schopná rozlišovat mezi fašisty a levicovými antirasistickými aktivisty by neměla mít důvěru a pravomoc pro činění takových rozhodnutí,“ komentuje situaci Olla. 

Soukromě vlastněné firmy jako autorita

Nahlížení na levicově orientované platformy věnující se ekologii či tématům týkajícím se sociální spravedlnosti jako na rovné těm s rasistickou, fašistickou či neonacistickou tématikou koresponduje s úhly pohledu mnohých vlád. Kromě Spojených států je tak činěno i v případě České republiky, kdy loňská zpráva o extremismu obsahovala následující závěry monitorování bezpečnostních složek: 

„V roce 2020 bylo zaznamenáno celkem 188 akcí pořádaných nebo s účastí extremistů. Celkem 151 náleželo do levicově extremistického spektra a 37 akcí do pravicově extremistického. (…) V roce 2020, stejně jako v předchozích letech, anarchisté stále častěji zdůrazňují ekologická témata. Nezřídka participují na aktivitách některých ekologických organizací. Členové anarchistických kolektivů nadále vyjadřovali sympatie i zahraničním hnutím či skupinám. Jednalo se o subjekty fungující po celém světě, které podle nich vykazují anarchistické charakteristiky, nebo kterých se anarchisté tradičně zastávají (pozn. pod čarou: např. Kurdové v regionu Rojava, migranti, sexuální menšiny, hnutí Black Lives Matter apod.).“

Vyjma otázky svobody projevu, jejíž zodpovězení je v případě soukromě vlastněných platforem komplikované, výše popsaná situace může indikovat vzestup korporátního autoritářství, kterému by mělo být zabraňováno regulací sociálních sítí, které jsou kromě soukromých firem klíčovým centrem společenské komunikace, jež výrazně ovlivňují světové dění. 

„Sociální sítě jsou sice soukromě vlastněné, svou moc však často využívají naprosto nedemokratickým způsobem,“ vyjadřuje se k regulaci obsahu Andre Damon v příspěvku pro World Socialist Web Site.

Zodpovědnost algoritmů

Meta často přímo spolupracuje s vládami jednotlivých států, přičemž se snaží vyhovět i požadavkům autoritářských či diktátorských režimů jen proto, aby přístup na sociální sítě v dané zemi nebyl zakázán – Meta by ztratila velké množství uživatelů a potenciální profit z nich. 

Nejznámější je kauza, kdy Facebook selhal v blokování obsahu, který podněcoval ke genocidě muslimské menšiny Rohingů ve státě Myanmar. Algoritmy tento obsah dokonce prioritizovaly a Facebook i přes opakovaná upozornění nepodnikl žádné kroky. „Facebook byl ochotný vyměnit životy Rohingů za lepší proniknutí na trh malé země v jihovýchodní Asii,“ píše se v žalobě, ve které Rohingové žádají po Facebooku kompenzaci 150 miliard liber. 

Chyba z technického hlediska spočívá v první řadě ve fungování algoritmů, které, jak je zmíněno výše, pracují na základě detekování klíčových slov. Pro umělou inteligenci, která není schopná posoudit kontext, ve kterém jsou slova použitá, je násilí jako násilí – a je tak jedno, jestli k němu vyzýváte nebo naopak agitujete proti němu. 

Oficiální omluva Facebooku, který se následně k blokacím socialistických účtů vyjádřil, totiž zněla, že šlo o chybu automatizace a účty byly po vlně nevole, která se prohnala sociálními sítěmi, obnoveny. Žádné bližší vysvětlení, jak a proč se tato chyba, která zasáhla i soukromé účty, stala, nepřišlo.