V poslední době se v našich online životech začaly čím dál častěji objevovat nové komunikační technologie jako jsou chatboti neboli konverzační agenti. Nicméně ne všichni uživatelé internetu tuto skutečnost zaregistrovali. Pokrok v humanizaci umělé inteligence (UI) totiž lidem ztížil nezávisle posoudit, zda komunikují s chatbotem, nebo s reálnou osobou prostřednictvím textového rozhraní.

Náklady související s najímáním lidské pracovní síly, v tomto případě specialisty péče o zákazníky, oproti implementaci umělého agenta zákaznické péče, jsou výrazně vyšší. Dá se tak očekávat, že konverzační agenti brzy nahradí zaměstnance v segmentu zákaznického servisu.

Trend každoročně následuje neustále se zvyšující počet společností, které na své weby nasazují chatboty. Své rozhodnutí však často před svými zákazníky tají. Jaké jsou další kroky, které by měly být podniknuty, aby si lidé uvědomili, s kým komunikují?

Co je vlastně chatbot zač?

Chatboti jsou počítačové programy napodobující interakci se skutečnými lidmi. Jejich nasazení urychlila pandemie Covid-19. V oblasti e-commerce měla dopad na bezprecedentní nárůst objemu dotazů a stížností, které zaměstnanci museli zpracovat. 

Efektivní řešení této situace spočívalo v rozšíření týmů zákaznické péče o automatizovaná řešení. Chatboti jsou schopni dešifrovat velké množství zpráv uživatelů pomocí zpracování přirozeného jazyka a strojového učení a poskytují rychlou odpověď na víceméně jakoukoliv otázku.

Výhodou je také funkčnost, stabilita výkonu a dostupnost 24/7. Na rozdíl od lidí nejsou konverzační agenti nikdy frustrovaní nebo unavení z výkonu své práce. Je velmi pravděpodobné, že jste v minulosti s chatbotem komunikovali, aniž byste si to uvědomili. Používá je například významný hráč na poli e-commerce Zalando. Společnost na svém britském webu uvádí: “Náš chatbot je tu od toho, aby vám pomohl. Pokud nedokáže pomoci, předáme vaši záležitost jednomu z našich zaměstnanců“.

Podle prognóz by do roku 2025 měl trh s chatboty vzrůst na hodnotu 1,25 miliardy dolarů. Předpokládá se, že online nakupování se stane běžnou praxí a konverzační agenti nejen nahradí, ale také brzy překonají v produktivitě své lidské protějšky díky investicím vynaložených do této technologie.

Problematickou části této fáze pokroku nicméně zůstává fakt, že většina společností nesděluje svým zákazníkům skutečnost, že “zaměstnávají” chatboty. Z toho důvodu volají jak odborníci, tak zákonodárci po zavedení povinnosti být transparentní ohledně nelidského charakteru automatizovaných specialistů péče o zákazníky. Ta by zajistila, že by uživatelé byli informováni o totožnosti pisatele na druhé straně obrazovky.

Odhalení  chatbota

V minulosti zkoumalo dopady představení identity konverzačního agenta na uživatele několik akademiků. Někteří ve své práci zjistili pozitivní vliv tohoto informativního aktu na uživatele a jejich vnímání, jiní ne. S jakými konkrétními poznatky výzkumníci přišli?

De Cicco, Lima da Costa e Silva a Palumbo (2021) popisují negativní dopady odtajnění totožnosti chatbota. Uživatelé vnímají přítomnost lidského elementu negativně, což vede k narušení důvěry směrem k prodejci. Závěry studie Luo, Tong, Fang a Qu (2019) ukazují, že přítomnost přiznaného chatbota může vést k poklesu tržeb, ve sledovaných případech o 79,7 %. Lidé v tomto případě pohlíželi na tyto digitální agenty jako na méně znalá a empatická stvoření.

Mozafari, Weiger a Hammerschmidt (2021) zjistili, že zveřejnění identity může mít pozitivní i negativní dopady v závislosti  na segmentu podnikání. Brandtzaeg a Følstad (2018) naopak ve svých výsledcích tvrdí, že odhalení totožnosti chatbota má na spotřebitele ryze pozitivní vliv.

Ačkoliv jsou podle dostupných poznatků dopady informování o identitě chatbotů smíšené, je naprosto klíčové od společností, které tento nástroj používají, vyžadovat transparentnost. Jen ta zajistí, že si lidé budou plně vědomi toho, s kým přicházejí do styku. Transparentnost zároveň firmám pomůže dodržovat etické normy a ochranu zákazníků.

Lidé mají tendenci v online prostředí přeceňovat jejich soukromí, což často vede k mylnému sociálnímu vnímání soukromí. I proto si uživatelé internetu zaslouží být informováni o identitě agenta, aby se sami rozhodli, zda chtějí v konverzaci s ním pokračovat nebo ne.

Američtí zákonodárci tento názor sdílí. Například Kalifornie v roce 2020 zavedla Kalifornský zákon na ochranu spotřebitele (CCPA). Vyžaduje, aby podniky používající chatboty, kteří by mohli komunikovat s kalifornskými spotřebiteli, dodržovaly zákon a zveřejnily během interakce totožnost konverzačního agenta.

 Světlá budoucnost s chatboty?

První kroky k regulaci digitálních agentů učinila také Evropská unie. V dubnu 2019 vydala Evropská komise Etické pokyny pro zajištění důvěryhodné umělé inteligence. Dokument byl nicméně ve své formulaci poměrně vágní a nezaměřoval se na konkrétní příklady umělé inteligence, které byly v praxi používány, jako jsou například chatboti.

To se však změnilo s balíčkem o umělé inteligenci zveřejněným Evropskou komisí v dubnu 2021. Ten se kromě jiných témat zabývá i důvěryhodnou umělou inteligencí a rozděluji ji do kategorií s využitím přístupu založeném na riziku. Poprvé se řeší užívání chatbotů, kteří spadají do kategorie AI s omezeným rizikem.

Konkrétně balíček říká: „Omezené riziko, tj. systémy umělé inteligence se specifickými povinnostmi týkajícími se transparentnosti: Při používání systémů umělé inteligence, jako jsou chatboti, by si uživatelé měli být vědomi toho, že komunikují se strojem, aby mohli učinit informované rozhodnutí, zda v konverzaci pokračovat nebo z ní ustoupit.“Je tedy zřejmé, že současnou praxi zatajování totožnosti konverzačních agentů vnímá jako problematickou i Evropská komise.

Pokud si nejste jisti, zda při interakci se značkou komunikujete s chatbotem, věnujte pozornost některým aspektům. Jeden z nich je plynulost konverzace. Navzdory technologickému pokroku se většina agentů ve způsobu, jakým mluví, opakuje. Mnoho z nich také používá avatara jako profilovou fotku místo fotografie skutečné osoby. Další nápověda může spočívat v rychlosti odpovědi. Pokud dostanete odpověď během několika milisekund, zpozorněte.