Zneužití, ztráta kontaktů i kontroly: 93 % Čechů se obává umělé inteligence

Obavy v souvislosti s všudypřítomným využíváním umělé inteligence se týkají zneužití umělé inteligence (AI), ať už přímo při kyberkriminalitě nebo k získávání citlivých údajů. Dále se Češi obávají ztráty lidského kontaktu, ztráty kontroly nad AI a narušení soukromí. Méně lidí má obavy, že jim AI sebere práci nebo že se na ní stanou závislými. Vyplývá to z průzkumu technologické společnosti Agnostix mezi více než 1000 respondenty.

„Zatímco některé typy obav pramení hlavně z neznalosti a spadají spíše do žánru sci-fi, v tomto případě to neplatí. Různé formy bezpečnostních incidentů jsou stále častější nejen v zahraničí, ale už i v Česku. A nejde zdaleka jen o úniky dat, na které musí být například chatboti firem a institucí připraveni,“ popisuje Mário Mitas, spoluzakladatel společnosti Agnostix.

Zkušenosti z praxe ukazují, že AI boti velkých českých firem čelí desítkám různých forem útoků denně. V prostředí komunikace mezi AI a člověkem musí firmy a instituce hlídat nejen soukromí uživatelů 
a dodržování GDPR, ale zároveň detekovat i potenciální trestné činy, kterých by se chatbot mohl dopustit podporou nelegálního nebo neetického chování.

„Náš Defender kromě těchto rizik detekuje stále častěji také snahy samotných uživatelů o zneužití chatbotů a voicebotů, kteří se je snaží hacknout nebo přepromptovat, aby pro sebe získali nějakou cennou informaci, výhodu či slevu,“ říká Mitas. „Bezpečnost dnes proto nespočívá jen v ochraně uživatelů, ale i samotných provozovatelů virtuální asistentů, chatbotů a voicebotů, ať už jde o firmy, organizace nebo státní instuce.“

Vedle bezpečnosti se Češi nejvíce obávají toho, že v souvislosti s používáním AI něco ztratí. Ale možná překvapivě nemají na mysli práci. Ztráty lidského kontaktu se obává 44 % Čechů. Mají pocit, že častěji budou mluvit se stroji než se skutečnými lidmi. S přibývajícím věkem respondentů rostou i obavy tohoto typu, a např. mezi šedesátníky se ztráty lidského kontaktu obává více než polovina lidí. Ztráty kontroly nad jednáním umělé inteligence se obávají 4 z 10 Čechů. A zatímco tato obava je poměrně stejně silná v různých věkových generacích, liší se u lidí s různým stupněm dosaženého vzdělání. Mezi vysokoškolsky vzdělanými lidmi se ztráty kontroly nad AI obává 43 % lidí, u respondentů se základním vzděláním je to jen 30 procent.

„Současnou problémem není ani tak nasadit AI, ale spíš ji neustále hlídat a sledovat, co se například v komunikacích mezi AI a člověkem odehrává. Nejde jen o zajištění faktické obsahové správnosti, tedy aby AI nehalucinovala, ale například také o zajištění ochrany lidí ve složitých životních situacích. I zde bychom měli mít pod kontrolou, jak se konverzační AI k lidem chová a jak s nimi jedná. A to nejen ve fázi testování, ale především v plném provozu,“ vysvětluje Mitas.  

Ztráty soukromí se kvůli využívání AI obává 37 % Čechů. Strach z toho, že je pořád bude někdo poslouchat, má přitom poměrně výrazně více žen než mužů. Ženy se oproti mužům také v hojnější míře obávají toho, že jim nebo jejich blízkým AI sebere práci. Často medializovanou obavu má však celkově jen 20 % Čechů. 

Ještě o něco méně lidí se obává vzniklé závislosti na umělé inteligenci a toho, že už se bez ní neobejdou. Tato obava je výrazně nejrozšířenější u mladé generace lidí mezi 18 a 26 lety, kde se závislosti na AI obává třetina respondentů. Celkově nejméně lidí se pak obává situace, kdy se někdo dozví, že AI používají k podvádění. Tuto obavu mají jen 4 % Čechů.

Agnostix je pražská technologická společnost, která se od roku 2017 zaměřuje na dodávky IT projektů, zejména pro podnikovou klientelu z finančnictví a telekomunikací.