Když Mark Zuckerberg, zakladatel největší sociální sítě Facebook, proklamoval, že chce, aby se kdokoli mohl propojovat s kýmkoli ve prospěch budování globální společnosti, zřejmě si naivně neuvědomoval, jaké všechny následky to může mít. „Chceme dát lidem šanci cokoli sdílet s ostatními,“ prohlásil (převzato z filmu The Cleaners, 2018).

Nelze však předpokládat, že lze sdílet opravdu úplně cokoli. Sociální sítě se totiž možná tváří tak, že jsou primárně stvořeny pro zcela volné šíření informací a posilování demokratických principů, ale stejně tak je zapotřebí, aby někdo monitoroval, co se na nich objevuje. Některé příspěvky totiž mohou výrazně šokovat, pobuřovat nebo způsobovat zbytečnou psychickou újmu.

Filmový plakát: © The Cleaners (2018)

Rozpravy byly tentokrát věnovány těm, kteří pro firmy, jako je Facebook, Google či Twitter, mažou nevhodný obsah, který na sociální sítě nahrávají sami uživatelé. Díky spolupráci s festivalem Jeden svět Rozpravy navázaly na dokumentární film The Cleaners (Čističi, 2018), který se práci „mazačů“ věnuje.

Diskutovat přišli Marek Vranka z Katedry psychologie FF UK a z Katedry marketingové komunikace a PR IKSŽ FSV UK, Vlastimil Nečas z Katedry mediálních studií IKSŽ FSV UK a Jan Jirák z Katedry mediálních studií IKSŽ FSV UK a z Metropolitní univerzity Praha. Rozpravy moderovala Alice Němcová Tejkalová, děkanka FSV UK.

Čistí, mažou, zajišťují bezpečnost

Vymazat – ignorovat – vymazat – vymazat a opět ignorovat. Stále dokola. Čistí síť, usměrňují obsah a přebírají zodpovědnost za to, že se v ní neobjeví nic podezřelého. Kromě toho také obsahově indexují fotografie – přiřazují k nim různé tagy – a vytváří tak různé kategorie (ne)přípustných obsahů. Tuto práci vykonávají kontroloři závadného obsahu. Jsou jich desetitisíce, přitom o jejich zaměstnání mnozí nemají ani ponětí.

Co všechno takový člověk během své pracovní doby zhlédne? Denně vidí až 25 tisíc příspěvků. Musí sledovat dětskou pornografii, různé způsoby sebepoškozování, explicitně sexuální záběry hraničící s obscénností. Mnohé příspěvky se týkají také terorismu včetně dekapitací či agitačních videí oslavujících násilné činy.

„Usilovně zajišťujeme uživatelům bezpečnou platformu,“ říká ve filmu Čističi jeden z těch, kteří se touto činností zabývají. Nesmí při tom selhat – za tři chyby týdně mu totiž může hrozit sankce nebo dokonce propuštění. I z tohoto důvodu jsou mazači logicky pod velikým tlakem. Kdo jsou tito lidé? Jak se s tím psychicky vyrovnávají? A co je motivuje k tomu, aby se živili zrovna touto profesí?

Kontroloři jsou nezaškolení i snadno nahraditelní

„Jedná se o lidi, kteří mají omezený výběr zaměstnání, ale v důsledku je to jejich svobodná volba. Každý má nějakou strategii, jak se s tím vyrovnat. Jsou tací, kteří se při svých profesích potkávají s obrovským množstvím utrpení a smutku a pracují s tím, zvládají to,“ řekl na úvod Vlastimil Nečas.

Podle něj je nezbytné, aby bylo o takové zaměstnance pečováno, například formou nějakých individuálních supervizí či konzultací. Velké firmy jako Facebook či Google se ale nijak dramaticky netrápí tím, že jim zaměstnanci odcházejí příliš rychle a fluktuace je vysoká. Zástup dalších, kteří je jsou vzhledem k nedostatku práce a vlastním špatným životním podmínkám ochotní nahradit, je dlouhý.

„Každý má nějakou strategii, jak se s tím vyrovnat. Jsou tací, kteří se při svých profesích potkávají s obrovským množstvím utrpení a smutku a pracují s tím, zvládají to,“ říká Vlastimil Nečas.

O své zkušenosti ve filmu vypovídají hlavně lidé z rozvojových zemí. Proto je důležité rozlišovat mezi pracovními podmínkami a samotným obsahem práce. Pracovní podmínky jsou totiž vzhledem k nadnárodnímu charakteru a prosperitě firem, v nichž tito zaměstnanci působí, pravděpodobně poměrně uspokojivé – výhodná je pro ně zřejmě zejména výplata, která převyšuje místní možnosti.

Jsou sice rámcově vyškolení a jednají podle jakýchsi blíže nespecifikovaných firemních pravidel, přesto to jsou ale lidé s odlišným kulturním, ekonomickým, politickým a sociálním zázemím, než je to, v němž vznikají „nevhodné obsahy“, které pak mají posuzovat. „Často mají zprostředkované znalosti o tématech, o kterých mají rozhodovat,“ zdůraznil Marek Vranka.

I tak má jejich práce určitou nadstavbu: je bezesporu společensky prospěšná. „Když se budou k práci stavět z pohledu nějaké smysluplnosti – že vlastně chrání lidi na celém světě před nějakým škodlivým obsahem – tak je to z toho psychologického hlediska zvládnutelnější, než když někdo až v otrockých podmínkách montuje nějaké součástky nebo dělá nějakou práci, ve které má problém nějaký hlubší nebo spásonosný smysl najít,“ vysvětlil Vranka.

Mazání je mechanismem sociální kontroly

Kde je vůbec hranice mezi tím, co mazat a co nikoli? Do jaké míry se má mazání provádět a kdo by to měl posuzovat? A kdo může být potenciálně obviněn z cenzury, pokud smaže něco kontroverzního, leč stále přípustného?

Tyto otázky úzce souvisí se svobodou slova a projevu. Ta je však nyní zaměňována za komunikační nespoutanost, kdy se každý, a to nezřídka anonymně, vyjadřuje k tématům, která jsou nejen nevhodná nebo sporná, ale někdy i vyloženě obtěžující až patologická.

„Takový čistič se dá volně přirovnat k dozorci ve vězení – je to stejná rovina; něco omezuje, ale omezuje to způsobem, který je pro většinu společensky přijatelný, pokud jsou dodržená pravidla, jak se tam člověk dostane,“ řekl k tématu Jan Jirák.

„Takový čistič se dá volně přirovnat k dozorci ve vězení – je to stejná rovina,“ míní Jan Jirák.

Prostředí internetu zároveň do velké míry zrcadlí to, co se děje v reálném světě. „To, že vidíme praktiky pedofila, je novinka, ale samotná pedofilie novinkou není. Určité mechanismy tu existovaly v době před internetem, kdy se k nám ovšem nedostaly cestou tabu, cestou uzavírání se do nějakých ilegálních komunit a tak podobně,“ podotkl Jirák.

To, že firmy zřizují funkce, jako jsou právě mazači, je tak podle něj přenášením mechanismu sociální kontroly, který fungoval před internetem, do technologického prostředí – akorát se v něm ještě pořádně neustavil. Otázka mazání, obavy z cenzury a posuzování toho, co je či není nevhodné, se tak postupně stává přirozeným mechanismem sociální kontroly, na němž se spolupodílejí i všichni ostatní uživatelé internetu.

Nadto se odpovědnost částečně přesouvá na firmy samotné, byť je otázkou, nakolik je to pro ně prioritní. Podle Vlastimila Nečase tím hlavně ukazují, že do mazání obsahu investují nějaké prostředky, čímž své značce současně dělají PR. A dále se nabízí ptát se: opravdu jsme přesvědčeni o tom, že máme právo dávat veškeré fotografie na sociální sítě a vymáhat při tom autorská práva? Přeci jen to jsou samy společnosti, které nám zdarma poskytují prostor pro sdílení příspěvků, a když se rozhodnou, že nám jej smažou, je to v zásadě v pořádku.

Právo na vlastní představu o světě

Onu komunikační nespoutanost je tak jako tak potřeba usměrňovat a krotit. Namísto tolik glorifikované a oceňované svobody slova se nakonec nejvyšší hodnotou může stát právo na soukromí, abychom se vzájemně neohrožovali a psychicky neutlačovali. Podle Vranky tak snaha zavádět určité regulace bude do budoucna zřejmě souviset i se zájmy zákonodárců, potažmo se zájmy voličů.

Nějaká rozumná vzájemná shoda týkající se obsahové rozmanitosti je totiž, zdá se, utopická, a je jakýmsi přežitkem z dob minulých. „Žijeme ve stavu mrtvého společenského konsenzu a všechno ostatní se od toho odvíjí,“ míní Jan Jirák. „Má to ještě některá zombie, některá přežívající rezidua z doby existujícího konsenzu, což jsou třeba média veřejné služby. A pak je to i parlament, který je založený na myšlence, že jsme schopni se nějakými procedurami dohodnout,“ dodal.

„Když se budou k práci stavět z pohledu nějaké smysluplnosti – že vlastně chrání lidi na celém světě před nějakým škodlivým obsahem – tak je to z toho psychologického hlediska zvládnutelnější,“ tvrdí Marek Vranka.

Ve všeobecné rovině s tím souvisí i výběr informací a jejich zpracovávání, přičemž klíčová je jejich důvěryhodnost. To, že lidé čím dál méně důvěřují médiím veřejné služby – jednomu z mála integrujících prvků společnosti – je potvrzením toho, že nejspíš opravdu žijeme v době post-pravdivé, v níž je všechno relativní – a relativizovat tak musíme i to, co na webu zůstat může, či nikoliv.

Vlastimil Nečas v této souvislosti položil prozaickou otázku: nemáme snad všichni právo nejenom na vlastní názor, ale i na vlastní pomýlenou představu o realitě? Vzhledem k tomu, jak sporný je výklad reality, je nasnadě se ptát, odkud se berou ti arbitři, kteří mají určovat, co je pravdou a co je správným kontextem.

Snažíme se hledat konkrétního viníka, ale toho nikdy nedohledáme – vina je kolektivní. Umožňuje to sociální klima, samotná architektura internetu a technologie, která ji utváří: dává prostor všem a všemu.

Lakujeme svět na růžovo?

Svět internetu tedy zcela zřetelně nějaká omezení potřebuje. Na extrémních případech se valná většina společnosti přeci jen shodne. I přesto zde narážíme na další problematiku – nelakujeme svět vlastně na růžovo, když opomíjíme, respektive neukazujeme radikální násilí, explicitní obsahy a podobně? Jaký by byl internet, kdybychom vůbec nemonitorovali, co se na něm objevuje? Je vlastně správné takové obsahy mazat a jaký by byl internet, kdyby se závadné obsahy nemazaly?

Internet je podle diskutujících nějakým způsobem potřeba regulovat a monitorovat už jenom vzhledem k nejohroženější skupině, kterou jsou děti. Právě dětství, nejcitlivější období života vůbec, si zasluhuje ochranu, protože je vzácné, výjimečné, neopakovatelné a je hodnotou samo o sobě. V této obzvlášť důležité životní etapě je potřeba sledovat, jestli dítě není vystaveno něčemu, co by ho mohlo traumaticky poznamenat.

​Rozpravy byly věnovány mazání internetového obsahu​.

„Osobně si myslím, že dětská psychika s tím neumí zacházet. Dítěti můžeme ukázat cokoli, ale důležité je, jestli mu to vysvětlíme, jestli mu k tomu dáme kontext a řekneme mu, jak tomu má rozumět. Pokud to neuděláme, tak si myslím, že to může mít velmi devastující vliv,“ uvedl Nečas s tím, že primární je jeho sociální prostředí a to, jestli je naplňující, uspokojivé, dostatečně saturující a pečující.

Protiargumentem může být, že speciálně právě kolem dětí vytváříme bariéru, která potenciálně vede k tomu, že pak nejsou připraveny na svět, jaký doopravdy je. Na druhou stranu není třeba vidět vše do detailu, abychom si dokázali představit, že někdo trpí – explicitní zobrazování naopak může vést k tomu, že nám násilí může postupem času připadat normální.

Ostatně ani drastické kampaně, jak připomněl Nečas, které zobrazují například oběti autonehod, rozhodně nefungují jako prevence před dopravními autonehodami. V informačním toku mají navíc tendenci vyplouvat na povrch kontroverzní a šokující obsahy a svět se tak zdá násilnější a brutálnější, než jakým ve skutečnosti je.

Kritické myšlení nás nespasí, ale věříme v něj

Při debatě o mazání internetového obsahu samozřejmě narážíme na záplavu informací, s nimiž se setkávají nejen čističi, ale my všichni. Kromě vyloženě nevhodného obsahu se tak znovu dostáváme k tématu tzv. fake news, myšlenkám o ochraně demokracie a o přístupu k bludům a mýtům.

„Lidé pracují s informacemi specifickým způsobem. Spíše přijímají informace, které jim konvenují a potvrzují jejich vidění světa, což platí i pro fake news nebo dezinformační weby,“ připomněl Nečas – a Jirák k tomu poznamenal, že fake news jsou projevem určitého zoufalství a neschopnosti vyrovnat se světem.

Kritické myšlení nás přitom podle Marka Vranky nespasí – snad není nikdo, kdo by o sobě prohlásil, že s ním má nějaké potíže. „Lidé vidí všechny kognitivní chyby, zkreslení a omyly, kterým podléhají ostatní, ale oni sami jsou přesvědčení, že jim to nehrozí a že to jsou vždycky schopni prohlédnout,“ vysvětlil Vranka.

„Málokdo označí sám sebe jako za někoho, kdo je důsledkem nějaké dezinformace nebo kdo vychází z nějakých pomýlených faktů. Vždycky mluvíme o těch druhých – jsou to ti druzí, kteří jsou zmatení, dezorientovaní,“ doplnil Nečas.

Vranka také poněkud sarkasticky poznamenal, že když jsou lidé zaujati a pobaveni, není důvod, aby se nějak hlouběji zamýšleli nad čímkoliv. Víra v to, že uživatelé internetu – nebo alespoň jejich valná většina – budou sami umně vyhodnocovat, co na sítě dávat a co nikoli, nicméně stále trvá.

Foto kredit: František Géla

Foto kredit (článková fotografie): John Pastor / Flickr.com (licence Creative Commons)