Ředitelé se obávají ztráty kontroly nad AI, ukazuje průzkum Kaspersky

Praha 8. prosince 2023 (PROTEXT) – Průzkum společnosti Kaspersky, ukazuje rostoucí znepokojení vysoce postavených manažerů z plíživého pronikání generativní umělé inteligence (GenAI) do jejich organizací. Téměř všichni (95 %) dotázaní ředitelé firem jsou si vědomi, že zaměstnanci GenAI pravidelně využívají, a více než polovina (53 %) uvedla, že GenAI prakticky řídí chod některých obchodní oddělení. Rozsah těchto funkcí je takový, že 59 % vedoucích pracovníků vyjadřuje velké obavy z možných bezpečnostních rizik, která by mohla ohrozit citlivé firemní informace a vést k úplné ztrátě kontroly nad klíčovými provozními funkcemi.

GenAI, která byla ještě nedávno považována za naprostou technologickou novinku, pronikla do běžného života a vyvinula se v ohromující pracovní sílu schopnou automatizovat a provádět obrovské množství úkolů. Z průzkumu však také vyplývá, že vedoucí pracovníci již ztratili kontrolu nad nasazením, používáním a dohledem nad GenAI. Pouze 22 % dotázaných se zabývalo zavedením pravidel a předpisů pro monitorování používání GenAI, přestože 91 % z nich uvedlo, že potřebují lépe porozumět tomu, jak zaměstnanci zacházejí s interními daty, aby je ochránili před kritickými bezpečnostními riziky a úniky.

David Emm, hlavní bezpečnostní výzkumník společnosti Kaspersky, říká: „Podobně jako používání vlastních zařízení zaměstnanců nabízí GenAI firmám obrovské výhody v oblasti produktivit. Naše zjištění zároveň ukazují, že i když si vedoucí pracovníci pochvalují její zavádění v organizacích, nemají dostatečný přehled o účelu a rozsahu jejího využití. Rychlý vývoj GenAI v současné době nevykazuje známky zpomalení, z čehož vyplývá, že čím déle budou tyto aplikace fungovat bez dozoru, tím obtížnější bude jejich kontrola a zabezpečení v rámci hlavních podnikových funkcí, jako jsou HR, finance, marketing nebo dokonce IT.“

Aby mohla GenAI efektivně fungovat, spoléhá na neustálé učení prostřednictvím datových vstupů – jakákoli data zadaná zaměstnancem do aplikace jsou okamžitě přenesena mimo organizaci, podobně jako při jejich neúmyslném vyzrazení. Obavy představenstva firem, že by tak mohlo docházet k únikům dat, jsou reálné, přičemž tři z pěti vrcholných manažerů velmi znepokojuje, že zaměstnanci mohou při zadávání údajů do platforem GenAI prozradit citlivé firemní informace.

Navzdory těmto obavám z průzkumu vyplývá, že polovina manažerů stále plánuje využívat v budoucnu GenAI a automatizovat repetitivní úkoly, které jejich zaměstnanci v současnosti denně řeší. Dalších 44 % naznačilo svůj záměr začlenit GenAI do svých vlastních rutinních postupů za účelem zvýšení produktivity. Bez ohledu na bezpečnostní rizika překvapivě čtvrtina vedoucích pracovníků uvedla, že chce pomocí GenAI automatizovat zejména činnosti oddělení IT a kybernetické bezpečnosti.

Emm dodává: „Dalo by se předpokládat, že obavy o ztrátu citlivých dat a ztrátu kontroly nad kritickými podnikovými jednotkami by mohly manažery odradit a přimět k většímu zamyšlení nad dalším postupem, naše zjištění však ukazují, že téměř čtvrtina šéfů firem již nyní usiluje o přenesení některých svých nejdůležitějších funkcí na umělou inteligenci. Než k tomu dojde, je zapotřebí, aby další integraci GenAI do podnikového prostředí předcházelo komplexní pochopení správy dat a zavedení efektivních pravidel pro bezpečné nakládání s informacemi.“

Metodika: Průzkum provedla společnost Censuswide mezi 25. zářím a 2. říjnem 2023, přičemž se dotazovala 1 863 vysoce postavených vedoucích pracovníků ve Velké Británii, Francii, Německu, Španělsku, Itálii, Rumunsku, Nizozemsku a Řecku.

ČTK ke zprávě vydává obrazovou přílohu, která je k dispozici na adrese http://www.protext.cz.