Může stroj ověřit, co je pravda? S tím, jak generativní umělá inteligence stále rychleji získává nové schopnosti, stojí před ověřovateli faktů zásadní otázka: Kolik odpovědnosti lze svěřit algoritmům – a kde je třeba stanovit jasné hranice?

Prof. Regina Cazzamatta (LUT University) na konferenci v Dortmundu; foto: Susanne Fengler

Právě toto napětí určovalo diskusi na panelu 22 s názvem „Ověřování faktů, nadnárodní praxe a normativní východiska“ na 71. výroční konferenci Německé společnosti pro publikační a komunikační vědu (DGPuK) na Technické univerzitě v Dortmundu. Konference se konala pod mottem „#Věda #Komunikace #Demokracie“. Mezinárodní skupina výzkumníků a výzkumnic – Regina Cazzamatta z LUT University, Augusto Santos z Univerzity v Erfurtu a Katrin Wallner, Matthias Karmasin a Larissa Krainer z Univerzity v Klagenfurtu – diskutovala o tom, jak se ověřování faktů mění pod vlivem umělé inteligence, globálních sítí a normativních standardů. Jednotlivé příspěvky se na téma dívaly z různých úhlů: od využití AI přes nadnárodní souvislosti až po etická pravidla a organizační zázemí.

Pozornost se soustředila na aktuální výzkum toho, jak ověřovatelé faktů zapojují generativní AI do své práce – a které úkoly jí naopak záměrně nesvěřují.

Umělá inteligence v každé fázi ověřování

Jeden z představených projektů sleduje využití umělé inteligence ve čtyřech fázích ověřování faktů: při monitoringu, rešerši, tvorbě a distribuci.

Ukazuje se, že AI už dnes pomáhá zvyšovat efektivitu ve všech těchto fázích. Při monitoringu automaticky rozpoznává tvrzení, přepisuje veřejná vystoupení a překládá je. V rešerši dokáže shrnout rozsáhlé dokumenty a pomáhá s ověřováním. Při tvorbě obsahu usnadňuje přípravu stručných verzí a úpravu materiálů pro různé platformy. Uplatní se i při distribuci: může cíleně doručovat opravy lidem, kteří se dříve setkali s nepravdivým či zavádějícím tvrzením. Největší úlevu přináší u opakujících se úkolů a práce s velkým množstvím dat.

Mezi nadšením a skepsí

Výzkumníci popisují tento vývoj pomocí napětí mezi „okouzlením“ a „vystřízlivěním“. Umělá inteligence se zpočátku jeví jako slibná novinka, v každodenní práci ale její možnosti odborníci a odbornice hodnotí střízlivěji.

Vedle vyšší efektivity upozorňují zejména na několik problémů:

• Nástroje, které mají rozpoznávat obsah vytvořený umělou inteligencí, jsou nespolehlivé.
• Odhady pravděpodobnosti, například „obsah vytvořila AI se 60–70% pravděpodobností“, se obtížně vysvětlují a předávají dál.
• Technické a finanční nároky ztěžují zavádění těchto nástrojů.

Právě tato rozporuplnost ovlivňuje, jak redakce s novými technologiemi v praxi zacházejí.

Jasná hranice: odpovědnost nese člověk

Jeden ze zásadních závěrů zní: ověřovatelé faktů odmítají považovat umělou inteligenci za samostatně jednajícího aktéra. Vnímají ji především jako podpůrný nástroj. Rozhovory jasně ukázaly, že za veškerý obsah musí nést odpovědnost člověk. Výzkumníci zdůraznili také potřebu transparentního využívání AI. To zahrnuje i kritický přístup k možnému zkreslení a k datům, na kterých byl systém natrénován. Ověřovatelé faktů si tím zároveň hájí svou profesní autoritu tváří v tvář technologickému vývoji.

Pravidla organizací odpovídají každodenní praxi

Studie porovnává osobní zkušenosti pracovníků také s pravidly 18 organizací zaměřených na ověřování faktů. Závěr je jasný: mezi každodenní praxí a institucionálními pokyny není zásadní rozpor.

Také pravidla těchto organizací zdůrazňují lidský dohled, odpovědnost a transparentní využívání umělé inteligence. Zabývají se etickými otázkami a doporučují průběžně sledovat rizika spojená s používáním AI. Často také výslovně zakazují automatizovanou tvorbu obsahu. Profesní normy pro práci s umělou inteligencí se tak zřejmě už začínají ustalovat.

Opatrné zapojování místo technologického převratu

Panel nabízí celkově diferencovaný pohled: umělou inteligenci odborníci ani neodmítají, ani nepřijímají bez výhrad. Zapojují ji selektivně a pod kontrolou.

Z diskuse vyplývají tři hlavní závěry:

1. AI pomáhá zvyšovat efektivitu, nenahrazuje však novinářské rozhodování.
2. Lidská kontrola zůstává zásadní součástí profesní identity.
3. Pro využívání umělé inteligence už jsou jasně formulovány normativní hranice.

Konference se věnovala výzvám, které digitální proměna přináší komunikaci a demokracii. Panel ukázal, že zapojení umělé inteligence do ověřování faktů nepředstavuje radikální zlom. Jde spíše o postupný proces, o jehož podobě se vyjednává a který se řídí profesními a etickými pravidly.

Článek byl přeložen z německého originálu: Fact-Checking: Zwischen Effizienz und Kontrolle