Papež Lev XIV. varoval před nelidskostí strojů, ale lidští jsou jen lidé
O umělou inteligenci (AI) se živě zajímá také katolická církev. Její Nejvyšší, papež Lev XIV., už dříve vydal encykliku Umělá inteligence a mír, v níž oceňuje přínos AI, zároveň však varuje před jejími riziky a nabádá k přísné etické regulaci. Uznává, že technologie a AI mohou lidstvu nesmírně pomoci, například v medicíně, vědě nebo komunikaci, a jsou důkazem lidské kreativity. Zároveň ale zdůrazňuje nutnost etického rozvoje: AI podle něj musí mít lidský rozměr. Vývojáři a technologické firmy nesmějí zapomínat na lidskou důstojnost a morální hodnoty v touze dosahovat zisků. V pátečním projevu v Elysejském paláci v Paříži varoval před ztrátou lidskosti v době, která v souvislosti s AI vytváří „ráj strojů“ a lidé stojí před základními otázkami existence. Lidstvo musí dbát o „naši lidskost uprostřed ráje strojů, které pronikají do našeho každodenního života a formují jej,“ cituje Lva XIV. agentura ČTK.
Obavy papežovy nejsou marné, ale nejsou ani docela nové. Ba se netýkají jen a pouze počítačů a AI. Člověka jím vynalezené stroje proměňují vždy. Kolik lidí ztratí svou lidskost, jakmile si sednou ke stroji – do svého auta? Pro provoz vozidel máme vytvořenu důmyslnou, právně závaznou soustavu regulí, jak se chovat a zachovat v případě určitých situací. Ale při každé jízdě narazíte na hulváty a ignoranty. Ano, také na řidiče chybující, ale kdo neudělá chybu? Jsme jen lidé. Zkušení řidiči chybujícího kolegu rozeznají od hulváta na dálku. Ale který z nich se změní v hulváta, když řidiči chybujícímu neodpustí a nedovolí mu jeho chybu napravit?
Obráceně: kapitalismus má tendenci s vynálezem stoje učinit člověka jeho vyměnitelnou součástkou. Hezky to zobrazil Charles Chaplin ve svém filmu Moderní doba, v níž se dělník na pásu stává součástí stroje. Také mnozí špeditéři a šéfové dopravních firem vidí v řidiči jen součástku vozidla. Málokdo ví, nebo si uvědomuje, že Evropská dohoda o práci osádek vozidel v mezinárodní silniční dopravě (AETR), jež určuje nejdelší možnou dobu řízení, nejdelší dobu práce a nejkratší možné přestávky řidiče, je primárně sociální předpis, jehož hlavním cílem je ochrana zdraví řidičů a zvýšení bezpečnosti silničního provozu. Přesto jej zaměstnavatelé mají tendenci obcházet a řidiči šidit tachograf, tedy záznamové zařízení, které v každém vozidle nad 3,5 tuny řízení, práci a přestávky řidiče sledují. Dokáží ho vyřadit z provozu, nebo jezdí na dvě záznamové karty, prostě je vymění a jede se dál. Bojují sami proti sobě v zájmu stroje.
U počítačů tomu není jinak. Ohromně usnadňují a zrychlují práci, zprostředkují zábavu a komunikaci s lidmi vzdálenými i blízkými. Ale umíme se s tímto strojem sžít natolik, že pak vyhledáváme lékaře a léčíme závislosti. Mobilní telefon považujme v tomto případě za počítač v kapse. A obráceně, jsou zaměstnavatelé, kteří své zaměstnance k počítači přikovají na dobu nepřetržitou. Telefonují, posílají zprávy a zlobí se, když v neděli v osm večer zaměstnanec nezkontroluje poštu a neodpoví na e-mail.
Umělá inteligence je také jenom stroj, jakkoliv nyní budí rozruch svou schopností se učit, komunikovat, činit rozhodnutí. To jsou vlastnosti, jimiž dosavadní naše stroje, které už dávno do našeho každodenního života „vstoupily a formují jej“, nevládnou.
Ale jsou to stále jen stroje. Lidskost sídlí v lidech. Je jen na nás, zda se k nim budeme chovat lidsky. A je jedno, jestli na to upozorňuje ředitel církve katolické Lev XIV., nebo generální ředitel společnosti Anthropic Dario Amodei, nebo ředitel AI divize v Microsoftu Mustafa Suleyman nebo Sam Altman z OpenAI, nebo Elon Musk, ředitel letů na Mars. Dosud, navzdory průmyslové a IT revolucím, jsme povětšinou zůstali lidmi. Jsem přesvědčen, že pánbůh nedopustí, aby to přestalo.