Josef Šlérka, foto: Adéla Leinweberová

Hledání mediální pravdy v éře AI s Josefem Šlerkou

Umělá inteligence není jen pomocníkem, ale také tvůrcem obsahu a hybatelem veřejné debaty. Mediálním profesionálům, kteří jsou zvyklí být strážci pravdy, přináší nové výzvy a také dilemata. Jak AI ovlivňuje koncept pravdy v médiích? Kdo rozhoduje o tom, co je pravdivé, a jakou roli v tom hrají algoritmy? Pokud se mediální profesionálové nebudou touto problematikou aktivně zabývat, riskujeme, že pravda se stane pouhou algoritmickou statistikou. 

O transformaci vlastníka pravdy a dopadech na svět médií jsme mluvili s Josefem Šlerkou, filozofem médií, který se specializuje na roli umělé inteligence v utváření mediálního prostředí. 

Umělá inteligence mění dynamiku médií a vyvolává zásadní otázky o tom, co pravda znamená, kdo ji definuje, a jak ji konzumujeme. Jak AI ovlivňuje filozofické pojetí pravdy?

Posiluje už to, co přinesl internet, a co jsme viděli už před nástupem generativní AI, a to, že se ztrácí hranice mezi producentem obsahu a novinářem. Jinými slovy mediální domy se považují spíše za producenty obsahu než za instituce stojící na práci novinářů. Nejde už jim tolik o to, aby novináři přinášeli informace, které zjistili, viděli nebo s někým mluvili. Spíš jde o to vygenerovat obsah, na který někdo klikne. 

AI tohle nasvítila ještě víc. Na newsfeedu Seznamu je vidět, kolik vzniklo v posledních pěti letech nových webů, které žijí jen z přepisování již hotového obsahu. Znejisťuje to pojem autenticity mediálního obsahu.  Z médií mizí svědek, člověk. 

AI negeneruje pravdu.

AI personalizuje obsah podle preferencí uživatele, což vytváří paralelní „pravdy“ pro různé skupiny lidí. Je vůbec hledání konceptu pravdy relevantní v době, kdy tady máme díky AI každý úplně jiný informační servis?

V mém světě pořád platí přístup Billa Kovache, že novinář má za úkol přinášet čtenářům ověřené zprávy, aby se mohli lépe rozhodnout. Když jim dlouhodobě média přinášejí informace, podle kterých se rozhodují špatně, pak ten obsah není v pořádku a čtenáři to poznají a změní své chování. Hodně pragmatická definice pravdy je, že pravda je to, co funguj, ale já si myslím, že když média generují nesmyslný obsah, lidé v delším časovém horizontu zjistí, že nekonají rozumně. 

Jak odlišit „pravdu“ vytvořenou lidskými novináři od „pravdy“ generované AI?

AI negeneruje pravdu. Na to, aby mohl být nějaký výrok prostě pravdivý nebo nepravdivý, potřebuji smysl a účel. AI generuje spíš něco, čemu jsme ochotni propůjčit pravdivost. Je to jako divadelní hra. V dramatu mohou zaznít věty, které říkají pravdu o okolním světě, ale herci, kteří je pronášejí, nemají žádný záměr a nepronášejí žádnou pravdu. Jen čtou scénář. AI je generátor možných světů a my se snažíme, aby generátor, který používáme, byl co nejblíž tomu našemu. 

Ale nejde tam o pravdu. Může AI generovat texty, které jsou užitečné tomu čtenáři? Ano, může, ale neříkal bych tomu pravda v silném slova smyslu. 

AI dokáže ve feedu ať už na sociálních médiích nebo v newsfeedu přizpůsobit obsah momentálnímu rozpoložení – pokusit se mne rozveselit nebo naopak uklidnit. Jak tohle může nakonec ovlivňovat kritické myšlení?

Tohle je přesně ten problém, co odlišuje novináře od producenta obsahu. Novinář se v podstatě nemá starat o to, jak se čtenář cítí, může naopak říkat i nepříjemné věci. 

Třeba řešit diplomatické vztahy s rovníkovou Afrikou… 

A to je správně. Je za tím hlavní idea novinařiny, tedy, že existuje veřejný zájem, v rámci kterého může být důležité psát i o vztahu s rovníkovou Afrikou. Obsah, který se mi přizpůsobuje, tenhle princip ignoruje. Největší nebezpečí personalizovaného obsahu je rozpad veřejného prostoru. Média nám předkládají informace s tím, že tohle je důležité teď řešit. Když se řeší důchodová reforma, všechna média píší o důchodové reformě. Společnost předpokládá, že existuje společné téma. S personalizovaným obsahem tohle sladění ztrácíme.

O factcheckingových nástrojích se v souvislosti s AI mluví dost, ale který nástroj mi řekne, že v mém vnímání chybí kus reality?

My se krátkozrace připravujeme na minulou válku, a protože minulá válka byla s dezinformacemi, tak se řeší factcheckingové nástroje. Tím nástrojem, na který se ptáš, je konkurence mezi médii. Když se média snaží zaujmout co největší počet lidí, tak se tím zároveň kalibruje, co je a co není zajímavé a společné. 

V současném stavu technologie neumí mít vlastní záměr, musel by tam být někdo, kdo jí ten záměr podsune. 

Takže nám vznikají paralelní světy s paralelním aktuálními událostmi…

Média čteme z různých důvodů. K pobavení, pro informace, co si vzít na sebe, ale také abych věděl, jak se rozhodnout ve volbách. To, čemu říkáme pravda, nám pomáhá se správně rozhodnout. Pokud média systematicky negenerují pravdu, přijímám systematicky špatná rozhodnutí, takže to poznám. 

Jenže teď roste objem textů, které jsou vygenerované ne proto, aby se někdo mohl lépe rozhodnout, ale protože je zapotřebí vygenerovat obsah, na který někdo klikne. Rostou parazitní média, na spoustě míst se dozvídám to samé. Ale negeneruje je už novinář, ale buď AI nebo nějaká levná pracovní síla. 

A teď ještě přimícháme personalizaci. Algoritmus mi bude dodávat jen informace, o kterých si myslí, že mne baví. Jak už jsem říkal, novinář mi nedává informace, o kterých si myslí, že mne baví. Dává mi informace, o kterých si myslí, že jsou důležité. Já se bojím, že jak je toho obsahu hodně a dostáváme ho roztříštěný, přizpůsobený, tak budeme dostávat bláto, které k nám k ničemu nebude. Ve finále si budeme číst povídky Jaroslava Haška ze života, který neexistuje.

Teď AI mou realitu personalizuje, uzamyká mne do té pověstné bubliny, ale co když mi začne podsouvat svou vlastní realitu? Umí si ji vymyslet? Jsme už tam?

Myslím že ne a myslím, že tam ani nebudeme. V současném stavu ta technologie neumí mít vlastní záměr, musel by tam být někdo, kdo jí ten záměr podsune. 

Ale to už jsme zřejmě na úrovni konspiračních teorií… Třeba o nadvládě technologických gigantů přebírajících produkci velkých mediálních domů. 

To je mentalita permanentní mediální manipulace a konspirace, mentální klišé a také přípravy na válku, která už byla. Je tam celé spektrum, trh médií, pokud si všimnu, že mne médium manipuluje, půjdu jinam. Ta představa, že někde sedí dvanáct lidí v kápích, kteří se rozhodnují, jak přebrat světovou nadvládu, je zcestná. Hledáme jen něco, co by nám ten svět zpřehlednilo. 

Josef Šlerka (*11. prosince 1974, Opočno) je český sémiotik a odborník na analýzu dat ze sociálních sítí. Působí jako vedoucí oboru Studia nových médií na Ústavu informačních studií a knihovnictví Filozofické fakulty Univerzity Karlovy. Dříve pracoval ve společnostech Ataxo a Socialbakers, kde vedl výzkum a vývoj aplikací pro monitoring sociálních síti a analýzu sentimentu. Akademicky se zabývá analýzou mediálních obsahů, sociálních sítí a rolí umělé inteligence v utváření mediálního prostředí. Působil jako ředitel Nadačního fondu nezávislé žurnalistiky.