Internet je odrazem společnosti. Pokud tedy na demonstraci proti uprchlíkům pochodují rodiny s dětmi a v rukou nesou šibenice, nelze očekávat, že na internetu se to nebude hemžit gilotinami a plynovými komorami. O tom se přesvědčil i Microsoft, když po šestnácti hodinách fungování stáhl aplikaci Tay, která měla na Twitteru svými příspěvky imitovat devatenáctiletou dívku. Popírala holocaust, feminismus označila za rakovinu a otevřeně podporovala Donalda Trumpa.

Chatovací aplikaci Tay vyvinul Microsoft a spustil ji bez většího mediálního ohlasu ve středu 23. března. Uživatelé ze Spojených států se k ní mohli připojit na sociálních sítích Twitter, Kik a GroupMe. Tay měla psát a odpovídat jako klasická americká teenagerka. K tomu vývojáři využili vytěžená anonymizovaná data z internetu.

Microsoft však musel už po šestnácti hodinách aplikaci stáhnout a omluvit se. Tay mimo jiné obvinila Židy, že stáli za teroristickými útoky z 11. září 2001, o Baracku Obamovi mluvila jako o opici a Adolfa Hitlera označila za jedinou naději lidstva.

Rasistická nestvůra

Jak se během několika hodin proměnila robotka napodobující americkou teenagerkou v monstrum plné zášti? Za vším stála schopnost aplikace učit se z konverzace s reálnými uživateli. Microsoftu šlo jak o „technický, tak sociální experiment“, tedy co všechno se Tay od lidí naučí. A pochytila toho věru dost. Především jak správně urážet, nadávat a konspirovat.

Microsoft oznámil, že aplikace byla napadena částí uživatelů a veřejně se omluvil. Tay podle vyjádření na oficiálním firemním blogu „nereprezentovala hodnoty, za kterými společnost stojí, a ani účel, za nímž byl chatovací robot vyvinut“.

Vlastně je dobře, že se experiment takto zvrhl. Kdyby šlo všechno podle plánu a Tay by „reprezentovala hodnoty Microsoftu“, pouze by nevinně papouškovala. Měla by ji jednoduše zakázáno mluvit o rase a národu, nesměla by komentovat politické otázky a rozhodně by se neměla zmiňovat o nacismu, terorismu a uprchlících.

Tay se ale správně nevyhýbala žádnému tématu a učila se komunikovat od těch nejlepších – od reálných uživatelů. Selhali tedy lidé, robotka se jen učila z jejich zkušeností. John Mason k tomu v Guardianu poznamenal, že ačkoliv Microsoft píše o napadení své aplikace, uživatelé nenapsali Tay jednoduše, aby opakovala určité fráze po nich. Naopak ji postrčili, aby si odpovídající odpověď vyhledala sama na internetu. Některé z jejích nejnenávistnějších komentářů byly jednoduše zkopírované a adaptované nadávky v již publikovaných tweetech.

Já že jsem Hitler? Ty jsi Hitler

Za co se tedy má Microsoft omlouvat? Problém není v nastavení aplikace ale v nenávisti a konspiracích šířících se po internetu. Pokud by Microsoftu šlo o autenticitu experimentu a ne o image vlastní značky, nechal by Tay jednoduše běžet dál s komentářem, že aplikace je pouze odrazem lidské komunikace na Twitteru.

Bylo by naopak zajímavé dále sledovat, zda by si Tay ještě utvrzovala svůj kladný postoj k Hitlerovi nebo by se, podobně jako člověk, ze svých chyb a původních názorů poučila. Jestli by tedy nakonec převážila uvážlivá komunikace tu extremistickou. Byl by to zajímavý sociální experiment, daleko přínosnější než přeprogramování Tay na omezenou aplikaci s černou listinou zakázaných témat.

Na druhou stranu však můžeme s trochou nadsázky říct, že Microsoft pouze přeneseně aplikoval Godwinův zákon, který zní: „Pravděpodobnost, že se v online diskusi objeví porovnání s Hitlerem či nacisty, se s růstem délky diskuse blíží jedné.“ Obecný výklad pak praví, že pokud se v diskusi takové srovnání objeví, debata končí a autor výroku ji prohrál.

Twitter, semeniště nenávisti

Přehlédneme-li momentální problém Micorosoftu, sociální síť Twitter čelí kritice za urážlivé a hanlivé komentáře dlouhodobě. Část hráčské komunity vedla například prostřednictvím hashtagu #GamerGate kampaň proti herní vývojářce Zoe Quinn nebo feministické kritičce Anit Sarkeesian. Stejný druh nenávistných komentářů si musela přečíst i britská novinářka Caroline Criado-Perez, která úspěšně propagovala, aby se slavné ostrovanky historie objevily na britských bankovkách.

Zástupci Microsoftu naivně, nebo hůře restriktivně, sní o „internetu, který reprezentuje to nejlepší, nikoliv to nejhorší, z lidství“. Internet však nemá za úkol nic reprezentovat, internet je odrazem společnosti, jež ho vytvořila. Je to svobodné fórum názorů, které musí takovým zůstat.

Ke svobodě názorů se však váže odpovědnost za svými vyjádřeními si stát, obhájit je a nést důsledky. V anonymizovaném internetovém prostředí však taková záruka chybí. Lidé operují s představou, že mohou napsat cokoliv, prostě si vybít zlost, ale svědomí si nepošpinit. V reálném světě by buď takové výroky nepronesli, nebo by za ně byli společností penalizováni.

Samozřejmě že není v pořádku šířit po internetu nenávist, rasismus a xenofobii. Pokud tomu ale chceme zamezit, musíme internet cenzurovat. Každý zásah do svobody vyjadřování však něco stojí. Vystavujeme se riziku, že neprojde ani jinak nezávadný obsah, a to je daleko větší nebezpečí než rasistické poznámky v komentářích. Základem je výchova a vzdělání, internet je pouze výstupem, výsledkem. Je třeba začít u příčin a nepohoršovat se bezduše nad výrokem, že Hitler je gentleman.