Bitva o AI explodovala do nových výšin. Máme se bát?
V USA se zkraje týdne rozhořela mimořádně silná debata o regulaci umělé inteligence. Zatímco Evropská unie se soustředí především na její možné zneužití lidmi (od šmírování až po diskriminaci v HR procesech – ke které dochází stejně, ale to teď není téma), americká debata se točí kolem něčeho, co do „včerejška“ mnozí brali jen za honbu za senzací: riziko, že se AI vymkne kontrole a půjde proti nám. Včetně toho, že by nás mohla vyhubit.
Vážná varování a samoregulace
Debatu vyvolala, nebo spíš posunula do jiných úrovní a dodala jí sílu, víkendová výzva generálního ředitele společnosti Anthropic Daria Amodeiho k okamžitému zpomalení vývoje. Podpořil jej nejen Elon Musk, který se pod něco podobného podepsal již před časem, ale i šéf OpenAI Sam Altman.
Amodei navíc představil plán na jakousi samoregulaci: zavedení nezávislých auditorů, bezpečnostních standardů, koordinaci mezi firmami a celkově mezinárodní spolupráci k zajištění větší bezpečnosti.
Má mít stát nouzový vypínač?
Souběžně ale běží – zatím jen slovní – souboj o roli státu. V zásadě se v USA objevují tři možné přístupy, které lze rozdělit do dvou skupin.
První říká, že stát musí mít možnost v krajních případech jakýkoliv systém vypnout. Říká se tomu „AI Kill Switch“. Spíš než o přímé vypnutí by mělo jít o možnost takový krok nařídit (zřejmě na základě speciálního zákona). Dva zákonodárci jeho návrh dokonce už předložili, a to zhruba před dvěma měsíci. Za pozornost přitom jistě stojí, že jeden byl demokrat a druhý republikán!
Druhý zase, že stát má regulovat AI pomocí dílčích opatření – například omezit její rozvoj, nebo podobně, jak zamýšlí Amodei, zavést nezávislé audity. Jen ne na bázi samoregulace, ale z moci státní a úřední.
Třetí pozici, jdoucí proti regulaci, a tedy představující onen druhý tábor, reprezentuje – jak překvapivé – Donald Trump. Ten tvrdí, že žádná nebezpečí nehrozí a nejlepší pojistkou pro případ, že by hrozilo, je inteligentní a silný prezident. Asi nic překvapivého.
Slavní demokraté v ofenzivě
Za regulaci se staví především demokraté včetně populárních osobností. Konkrétně bývalý prezident Barack Obama, poslední kandidátka na prezidentku Kamala Harris nebo „nezávislý demokrat“ Bernie Sanders. Ale i mnozí republikáni s Trumpem tak úplně nesouhlasí – jeden senátor se na předložení zákona o „kill switch“ podílel, senátor John Kennedy plánuje vlastní verzi, zřejmě měkčí. Každopádně platí, že Kongres Spojených států do voleb už nic moc nestihne. Takže debata bude pokračovat za jiných poměrů sil.
Varování před vyhubením lidstva
Základem pro jakoukoli akci by měla být úvaha, nakolik je nebezpečí reálné. Velmi dramatické varování přišlo od bývalého zaměstnance Anthropicu Jacoba Coxona, který tvrdí, že AI „nás může všechny zabít do konce desetiletí“. Další významné osobnosti oboru přitakávají, i když pravděpodobnost vidí třeba na úrovni 10 % (je to málo?). Nositel Nobelovy ceny Geoffrey Hinton pak pro BBC uvedl, že ona desetiprocentní šance se nezdá být nerozumným odhadem s dodatkem: „Nikdy jsme nestvořili bytosti, které by brzy mohly být chytřejší než my. Nevíme, co se stane.“ Podrobnější informace o názorech pěti významných osobností ze světa AI najdete zde.
Člověk je v řadě schopností stále unikátní
Hrozba zřejmě leží v konceptu superinteligence. Něčeho, co bude chytřejší než člověk, a to nejen v počítání a práci s daty. Z článků není úplně jasné, co se tím myslí. Protože člověk, resp. živý tvor, je v řadě schopností stále unikátní. Například pokud jde o kreativitu, prozkoumávání neznámých cest a postupů, čtení neverbální komunikace nebo intuici. I tak z toho ale trochu mrazí.
Prof. Václav Smil při své poslední návštěvě České republiky zdůraznil, že počítač lze vždycky vypnout. Jenže tomu možná už někdo nevěří. Anebo si říká, jak vypnout systém, bez kterého nebudeme s to zajistit dejme tomu bezpečnost elektrárny, řídit dopravu nebo kritické sítě? Každopádně se objevují informace, že nové modely AI občas řešily úkoly „nad rámec zadání.“
A tak bez ohledu na federální diskusi už některé státy v USA například zakázaly poskytování psychoterapie AI chatboty.
Závislost na technologiích a ztráta schopností
Je tu ale ještě jedna zásadní věc, o které se moc nemluví. Další a další testy PISA například ukazují, jak děti špatně rozumí psanému textu. Jednoduše proto, že nečtou ucelené a delší útvary. Lze předpokládat, že stejně tak neumí pracovat se zdroji, a že si bez kalkulačky spočítají maximálně tak cenu za menší nákup.
Naše závislost na technologiích je obrovská. Bez nich ztrácíme schopnost orientovat se v jízdních řádech, hledat v mapách, psát rukou a počítat. Proč bychom měli? Protože může přijít například blackout – přišly už i v Evropě. A také proto, že bez tréninku nám ty mozky prostě zakrní. Podobně jako bez psaní rukou se nerozvíjí jemná motorika.
Zatímco mnozí ekonomové a ekologové žehrají na pomalou digitalizaci ve školství („šetřete naše lesy“), mnozí psychologové (a také mimochodem oční lékaři) by ji z nich naopak nejraději vyhnali. A co teprve AI? Učíme ji být chytřejší, než jsme my, a sami pomalu ztrácíme jedinečné lidské schopnosti – intuici, fantazii, nebo schopnost si poradit tam, kde předepsané postupy selhávají. Přitom taková schopnost dokáže třeba i zachránit život.