Amatérský pohled na umělou inteligenci: vidím spíše nebezpečí
Již delší dobu si pohrávám s myšlenkou napsat text, který by pojednával o umělé inteligenci (AI). Zabývám se tímto tématem už mnoho a mnoho let amatérsky, což zdůrazňuji proto, aby kritici měli menší manévrovací prostor. Ale ano, podnět k napsání tohoto textu mi dal rozruch kolem ChatGPT (chatbot spuštěný firmou OpenAI v listopadu 2022 – poznámka redakce). Nebyl to navíc jen tento faktor, který mě k tomu přiměl.
Nedávno jsem se bavil se dvěma informatiky, jejichž znalostí světa a inteligence si vážím, a kteří mě zadupali do země (možná trochu přeháním) tím, že zcela ignorovali mé varování, podle něhož se může ukázat, že za těch zhruba 30 let, které jim zbývají do důchodu, by je umělá inteligence mohla připravit o práci. Ve skutečnosti se žádná skutečná diskuse nekonala, protože se zdálo, že není prostor pro dohodu. Proto jsem navrhl, abychom k tématu přistoupili znovu za 10 let (dokud budu schopen mluvit).
Umělá inteligence není jen ChatGPT
Tento pokus o diskusi mi dal hodně podnětů k přemýšlení. Lidé mají tendenci považovat umělou inteligenci za aplikaci typu ChatGPT a podle mého názoru nevidí důsledky jejího dalšího rozvoje. Obecně se i ti, kteří se umělou inteligencí zabývají profesionálně, dělí na ty, kteří vidí především výhody, a na ty, kteří varují před nebezpečím. Já rozhodně patřím k těm druhým.
Ve zkratce (opravdu velké, protože tento text je jen podnětem k hlubšímu rozboru tématu) lze říci, že pokud jde o trh práce, jedni vidí pozitiva (snížení pracovní zátěže, zvýšení produktivity atd.) a druzí nebezpečí (údajně za rok zanikne 10 milionů pracovních míst).
Názory jsou velmi rozdělené: podle https://tiny.pl/wb36d „v roce 2019 odborníci ze společnosti McKinsey & Company odhadovali, že umělá inteligence a automatizace by mohly do roku 2030 nahradit 30 % pracovních míst na celém světě. Naproti tomu údaje Světového ekonomického fóra uvádějí, že automatizace vytvoří do roku 2025 o 12 milionů pracovních míst více, než kolik jich podle odhadů zanikne.“
Profesionální ekonomové trhu práce tvrdí, že na každé pracovní místo zrušené umělou inteligencí připadá 2,6 nových. Problém je, že to tvrdili ještě před nástupem ChatGPT. Pochybuji, že to tvrdí i nyní. Kromě toho zřejmě vidí věci tak, jak jsou nyní, a podceňují konvergenční schopnosti různých proudů (o tom více níže).
Několikrát jsem testoval sílu přesvědčení optimistů položením otázky: Co se stane, až přijde obecná umělá inteligence? Pak obvykle nastalo ticho nebo neúspěšné pokusy o záchranu jejich přesvědčení. Mimochodem, řada společností již oznámila propouštění – příkladem je IBM.
řada společností již oznámila propouštění – příkladem je IBM
Zde je malá průpovídka, která jednoduše vysvětlí používané pojmy. Předem se omlouvám odborníkům za přijaté zjednodušení. AI (umělá inteligence) je velmi široký pojem. Dá se říci, že jej lidé někdy používají při pojmenování něčeho, co je jen jednoduchým robotem, automatem, který umožňuje zvýšit produktivitu. Něco takového s námi nebude mluvit a má velmi omezené, rigidní úkoly.
Letos nám byla představena vyšší úroveň, která se vyvíjí už nejméně 12 let. Jedná se například o ChatGPT. Například proto, že nejen OpenAI má svou umělou inteligenci. Pracují na ní všechny velké technologické společnosti. Taková AI se označuje jako „generativní“. Je to „…podmnožina umělé inteligence. Nejenže interpretuje informace, ale také vytváří originální obsah. Generativní AI kombinuje sílu strojového učení, hlubokého učení a umělé inteligence a vytváří text, video, zvuk, kód a obrázky.“ Budu ji označovat zkratkou gAI.
A co je to gAI (označovaná velkým G) neboli obecná AI (známá také jako „silná“ AI)? Ve zkratce můžeme říci, že GAI bude mít inteligenci vyšší, než je lidská, bude mít sebeuvědomění, bude se umět učit, řešit libovolné problémy a plánovat budoucí akce. Dne 2. května v pořadu „Point of View“ na Polsat News řekl Grzegorz Lindenberg (https://grzegorzlindenberg.com/) že, cituji, vytvořením GAI „vytvoříme boha“. Už slyším, jak si mnozí čtenáři myslí: vždyť vytvořit něco takového není možné.
GAI bude mít inteligenci vyšší, než je lidská, bude mít sebeuvědomění, bude se umět učit, řešit libovolné problémy a plánovat budoucí akce
A skutečně, i tudy vede hranice při posuzování vývoje takové UI (obecné umělé inteligence – poznámka redakce). Někteří odborníci tvrdí, že GAI vznikne, a to dříve, než si myslíme. Například Raymond Kurzweil lokalizuje její singularitu ještě před polovinu 21. století. Někteří naopak tvrdí, že vytvoření UI není možné, že stroj se nikdy nebude schopen stát myslícím člověkem. Já patřím mezi ty, kteří tvrdí, že vytvoření UI je možné, a to dříve, než si myslíme.
Konvergence trendů
A zde se dostáváme ke konceptu konvergence trendů, jak jsem se zmínil výše. O tomto procesu se obšírně pojednává v knize „Budoucnost je blíž, než si myslíme“. Doporučuji vám, abyste se nenechali odradit nadšením autorů, kteří chtějí vidět mnohé efekty technologického vývoje za méně než deset let. Hmota je příliš lámavá na to, abychom se za deset let pohybovali v létajících autech.
Pro mě je důležité něco jiného. A sice, že autoři tvrdí, že se spojuje mnoho různých technologií (umělá inteligence, internet včetně internetu věcí, nové formy dopravy, kvantové počítače, nanoroboti, nové materiály, zelená energie a mnoho dalších), což povede k fúzi těchto nových a vylepšených technologií v něco nepředvídatelného. Říká se tomu konvergence.
Spojení mnoha různých technologií povede k fúzi v něco nepředvídatelného
Zde si vzpomínám, že při rozhovoru se dvěma odborníky, které jsem zmínil na začátku, jeden z nich (který není IT odborník) řekl: „Mluví se o tom už 40 let a nic z toho nevzešlo“. No, zaprvé tu máme ChatGPT a zadruhé s rozvojem technologií je to někdy jako s inflací a otevíráním šampaňského. Zatlačíte na zátku od šampaňského a nic se neděje, ale nakonec zátka praskne, a pokud láhev otevřete neodborně, může dokonce vystřelit a udeřit do stropu. Přesně tak bude fungovat konvergence při vývoji GAI (to velké G je tam napsáno záměrně).
Pokud dosáhneme vzniku GAI, pak v podstatě nebudou lidé potřeba. Napsat počítačový program? GAI to udělá mnohem rychleji a lépe než člověk. Opravit robota? Okamžitě, vždyť za 20-30 let budou roboti výkonnější než lidé. Předpovídat budoucnost? GAI analyzující tisíce faktorů to jistě zvládne lépe než člověk. Lze se divit, že mnoho lidí (z těch známých jsou to Bill Gates nebo Elon Musk, které nemám rád) varuje před důsledky vytvoření takového tvora.
Je cesta ke GAI jednoduchá a zřejmá? Neexistují jiné možnosti vývoje? Jaká překvapení nás na této cestě čekají? Zdá se, že různé varianty dokonale popsal Nick Bostrom ve své (poměrně neprůstřelné, upozorňuji) knize s názvem „Superinteligence. Scénáře, strategie, hrozby“. Opravdu stojí za to podívat se na to, co tam napsal.
Pokud dosáhneme vzniku GAI, pak v podstatě nebudou lidé potřeba
Pokud jde o výhody rozvoje automatizace a robotizace, jsou tak zřejmé, že se jimi nebudu zabývat. Rizika jsou také zřejmá, ale pár jich stojí za zmínku. Například otázka falešných zpráv. Lze si představit, jaké využití bude mít gAI (která je již přítomna) při vytváření falešných zpráv, obrázků, zvuků atd. A obrázek papeže v péřové bundě (https://tiny.pl/wb33m) by přece byl nevinný vtip.
Lze si představit, že politici budou využívat umělou inteligenci a mikrotargeting, aby dosáhli co nejlepšího volebního výsledku. Takto lze nastavit jakoukoli vládu, která vůbec není demokratická. Jak bude vypadat nákup zboží, pokud se použije stejný postup? Kdo bude sklízet plody využití umělé inteligence ve výrobě? Samozřejmě majitelé robotů (AI), což povede k ještě větší příjmové nerovnosti, a nakonec i k revoluci? Kdo bude zodpovědný za chyby robotů?
Podobné otázky lze množit téměř donekonečna a v tomto krátkém textu to nemám v úmyslu. Pouze vás vybízím k zamyšlení nad tím, kam směřujeme a co nás v budoucnu může potkat. Pokud je vám, stejně jako mně, 73 let, očekáváte tuto budoucnost jen se zájmem. Ale kdyby mi bylo o 30-40 let méně, čekal bych s napětím.
kdyby mi bylo o 30-40 let méně, čekal bych s napětím
A nakonec, pro domo sua (ve vlastní prospěch – překlad redakce), neboli AI na finančních trzích. Již dnes více než 70 % obchodů na Wall Street provádějí počítače. S rozvojem umělé inteligence bude jejich vliv stále větší. Já, již více než deset let, doporučuji lidem, kteří se zabývají cílovými trhy, jednu knihu: „Index strachu“ od Roberta Harrise.
Nevím, kdo přivedl Harrise (podle Wikipedie: anglický spisovatel, scenárista, novinář, politický komentátor a autor bestsellerů) k myšlence napsat knihu z prostředí investičních fondů s prvky sci-fi. Ať už je to kdokoli, vyprovokovalo to autora této knihy k tomu, aby zplodil scénář, který jsem dlouho považoval za předzvěst toho, co finanční trhy čeká, až vstoupí do hry GAI. Není to příjemný scénář, a protože jsou to finanční trhy, které vládnou světu…
