(ČZ 23/2025) Profesor Geoffrey Hinton (na snímku), který loni získal Nobelovu cenu za fyziku za svou práci v oblasti AI (angl. Artificial Intelligence – umělá inteligence), uvedl, že existuje 10–20% pravděpodobnost, že AI povede během příštích tří desetiletí k vyhynutí lidstva.
Hinton již dříve vzbudil pozornost tím, že rezignoval na svou práci ve společnosti Google, aby mohl otevřeněji mluvit o rizicích spojených s nekontrolovaným vývojem AI. Uvedl obavy, že „špatní aktéři“ by mohli technologii zneužít k ubližování ostatním.
Tento profesorův výrok, moje veskrze pozitivní zkušenost s dostupnou a bezplatnou umělou inteligencí a naprostá ignorace AI mojí sociální bublinou plnou lidí starších 45 let mě vedly k tomu, že jsem se začala touto problematikou hlouběji zabývat. Absolvovala jsem několik kurzů pro začátečníky, přečetla pár článků a vyslechla podcasty s předními vývojáři a propagátory i kritiky AI.
Někde uprostřed svého bádání, dal-li by se tak můj skromný osobní průzkum nazvat, jsem skončila u poslechu Čapkova R.U.R. a nabyla jsem intenzivního dojmu, že se autor „v hrobě obrací“ a slyší hlas vyděšené Heleny Gloryové z Ligy humanity.
Negativní dopady AI se dají rozložit na krátkodobé (které již kolem sebe vidíme), střednědobé (projeví se již v průběhu příštích pěti let) a dlouhodobé, které jsou nejděsivější, a proto se s nimi chci vypořádat hned na začátku.
Vypnout ze zásuvky ji nelze
Odborníci hovoří o dystopických scénářích ne nepodobných právě R.U.R. V tuto chvíli jsme zvyklí na první úroveň AI v podobě chatbotů (počítačové programy určené k automatizované komunikaci s lidmi), kteří excelují v generování textů a vedení rozhovorů. Existují však už i modely, které jsou schopné logicky uvažovat, a dokonce i AI agenti, kteří brilantně samostatně pracují a řeší komplexní problémy a úkoly. AI se vyvíjí mílovými kroky, mnohem rychleji, než sami vývojáři předpokládali. Brzy zde budou AI inovátoři schopní řešit složité problémy, které lidstvo řeší velmi obtížně, třeba dopady klimatických změn.
V páté úrovni AI hovoříme o superinteligenci, která překonává tu lidskou ve všech oblastech včetně emocionálního porozumění a operuje na úrovni inteligence, která je pro člověka naprosto nepředstavitelná. Může se nám tedy snadno stát, že vytvoříme AI, která si bude žít vlastním životem a člověk nad ní ztratí jakoukoliv kontrolu. Naivní představa některých lidí, že v tento moment prostě vytáhneme obří počítač, v jehož rámci bude tato superinteligence fungovat, ze zásuvky a bude po ní, se nezakládá na realitě. Žádná taková zásuvka neexistuje. Na AI jsme už dávno závislí. Systém je celosvětově propojen a nebude možné ho vypnout. Pokud bychom ho vypnuli, začali by umírat lidé v nemocnicích, kolabovat systémy záchranné, bankovní, energetické atd.
Co s tím? Jak se vyhnout dystopickým scénářům a hysterickým proroctvím? Odborníci se shodují, že AI je potřeba začít regulovat. Profesor Pěchouček (vedoucí Centra umělé inteligence při Fakultě elektrotechnické ČVUT) říká, že cesta bez AI už neexistuje a jediná možná cesta je s AI žít, pokud možno co nejlépe.
Lze ale vůbec v rychlosti, jakou se AI vyvíjí, vytvořit AI bezpečnou? Určitě to jde, je jen otázka, jestli se chce. Je jisté, že bude docházet k tomu, že AI bude v určité míře dělat něco jiného, než co po ní chtěl člověk, který ji sestrojil. V rámci zpracování dat, předělávání algoritmů si sama přenastaví cíl a funkci. To je v současnosti velké téma vědeckého zkoumání: Za jakých okolností se to může stát a co se proti tomu dá dělat.
Návrhy Elona Muska rozvoj zastavit by podle profesora Pěchoučka vedly k jedinému: AI by se začala vyvíjet naprosto ilegálně a sledování bezpečnosti by nebylo možné. Jediné možné řešení je legislativní zakotvení toho, že výrazná poměrná část ze zisků AI se bude investovat do skutečně nezávislé kontroly a bezpečnosti. Tedy ne takové, že si Google udělá své vlastní bezpečnostní oddělení, ale že pošle stovky milionů dolarů do míst, kde se jeho práce bude nezávisle kontrolovat. Investice do bezpečnosti AI jsou žel v tuto chvíli neúměrné tomu, kolik se investuje do jejího rozvoje.
Smysluplná regulace AI je tedy nezbytná a musí být formou dohody v rámci EU, popř. by bylo dobré dosáhnout jednoty i s USA. (Po zvolení Donalda Trumpa ovšem bude pravděpodobně jakákoliv dohoda o regulaci složitá, ne-li nemožná.) Přitom pokud by v roce 2000 odborníci předpověděli manipulativní moc sociálních sítí a věděli by, co víme dnes, politici by sociální sítě pravděpodobně zakázali. AI je v tomto ohledu potenciálně mnohem nebezpečnější.
Existují vůbec nějaké pozitivní dopady a scénáře rozvoje AI v příštích dekádách? Její největší přínos vidí odborníci v tom, že umožní rychlejší a komplexnější vědecké objevy v oblasti klimatických změn, léčby nemocí a systémových problémů lidstva. Zajímavé úvahy na toto téma rozvíjí Petr Ludwig (český 1konzultant, podnikatel, publicista a spisovatel), který by za pomoci umělé inteligence zprostředkovával lidem hodnoty včetně jednoduchého zprostředkování biblických myšlenek. Vypráví, jak AI zadal prompt (počáteční text nebo instrukce poskytnutá jazykovému modelu – chatbotu – za účelem vytvoření odpovědi): „Jsi křesťanský Bůh. Jak bys vyřešil izraelsko-palestinský konflikt?“ Odpověď ho překvapila. Uvědomil si, že AI umí zprostředkovat i komplikované myšlenky a hodnoty přístupným a relativně objektivním způsobem.
Závislost a ztráta práce
Dopadem AI, který kolem sebe vidíme dnes a denně, je polarizace společnosti, ovlivňování veřejného mínění, voleb atd. Umělá inteligence vytváří generovaný obsah (texty, videa...) a dezinformace. Umí na míru vytvořit obsah, který lidem přesně zapadá do jejich světonázoru a myšlenkového rámce, a tak ho neustále sytí a podporuje. Zamezí tomu, aby se k člověku dostaly informace, které jsou s jeho rámcem v rozporu. Jak říká profesor Pěchouček: „Člověk se k opačnému názoru neprokliká, i kdyby chtěl.“
Zatímco dříve AI cílila na velké skupiny (např. na hispánské voliče v USA), dnes je schopná zacílit osobně. Příkladem je neuvěřitelně trefný algoritmus TikToku, který generuje osobní obsah s takovou přesností, že vytváří závislost u většiny svých uživatelů. Ocitají se ve snu nekonečné personalizované zábavy.
Jediný způsob, jak se tomu bránit, je aktivní odpor. Odinstalovat TikTok, neustále si klást otázky, pochybovat, aktivně vyhledávat opačné názory a ty své ověřovat. Pravda a její hledání musejí stát v centru našich hodnot. Je třeba sami se vzdělávat v oblasti informační gramotnosti a kritickému myšlení učit i naše děti.
Třetí, střednědobý důsledek AI na společnost, který také rezonuje s Čapkovou R.U.R., je vytvoření tzv. useless class (třídy zbytečných), tedy skupiny lidí, kteří nebudou mít uplatnění na trhu práce. Bude se jednat především o juniorní pracovníky v právnických firmách, bankách, marketingu apod. Pro právníka bude mnohem levnější mít na pozici koncipienta AI asistenta než platit člověka. Nikdo nebude zaměstnávat člověka kvůli sentimentu, pokud bude existovat levnější a chytřejší varianta.
Alarmující je časový horizont tří až pěti let, ve kterém se má podle odhadů odborníků toto dít. Vidím to sama u sebe. Ještě před rokem jsem uvažovala o tom, že bych potřebovala asistentku. Dnes už o tom neuvažuji, a to jsem ještě ani nezačala používat placenou verzi AI a jsem naprostý začátečník. Moje produktivita se znásobila neuvěřitelným způsobem. Brzy začnou juniorní pracovníci přicházet o práci, případně absolventi některých škol nenajdou uplatnění. Co z toho plyne?
Jan Romportl (vědec, vysokoškolský pedagog a AI konzultant) říká, že tancujeme na Titaniku. Zatímco dystopické konce v příštích třiceti letech nejsou jisté a snad je ještě možné jim zabránit, vzniku useless class už se v tuto chvíli zabránit nedá. Je nade vší pochybnost, že AI bude ve vší kognitivní činnosti lepší než člověk. Romportl tvrdí, že zhruba 10 % lidí tyto změny nezvládne a upadne do těžké deprese. 40 % lidí se napojí na technologie, na kterých jim bude dávkována dopaminová exploze personalizovaného obsahu tou samou AI, která je připravila o práci, a budou žít na minimálních dávkách, což bude extrémně drahé. Zbylých 50 % lidí se adaptuje a začne budovat komunitu a hluboké empatické vztahy. Čas, který jim AI ušetří v práci, věnují sobě navzájem. Romportl zdůrazňuje, že lidé musejí využít své lidské vlastnosti a být člověku člověkem. Aby se to mohlo stát, bude nutné tabuizovat vztahování se s AI stejně, jako je tabuizovaný incest nebo otroctví. Není bez zajímavosti, kdo se o zrušení otroctví a jeho tabuizování nejvíce zasloužil.
Vztah s Otcem, který není vygenerován algoritmy
Jako křesťanka si na základě výše popsaného kladu otázky: Jakou roli sehraje v tomto vývoji církev? Co na to všechno Bůh? Co můžeme jako křesťané dělat, abychom světu v této době přinášeli Krista a reprezentovali ho?
Celý tenhle vývoj považuji za velkou příležitost pro církev. Jako křesťané se můžeme modlit. Nepochybuji o tom, že Bůh na rozdíl od odborníků není rychlostí vývoje AI překvapen. Můžeme se modlit za účinnou regulaci a zajištění bezpečnosti při dalším vývoji AI. Sami bychom se měli vzdělávat v oblasti AI a jejího etického využití v souladu s křesťanskými hodnotami a učením našeho Pána. A dále bychom měli dělat to, co Ježíš dělal nejlépe: Milovat lidi kolem nás, klást jim dobré otázky, projevovat jim soucit a aktivně se podílet na budování hlubokých lidských vztahů. Lidé budou potřebovat podporu v oblasti duševního zdraví, budování kvalitních a pevných hodnot, chápání smyslu života a projevování empatie.
V neposlední řadě bychom měli být těmi, kdo budou aktivně vystupovat proti vztahování se s umělými osobními asistenty. Měli bychom být příkladem toho, jak úžasné a jedinečné je mít vztah s nebeským Otcem, který není vygenerován algoritmy, ale který nás zná osobně, který nás nechce manipulovat, ale který se postaral o naše věčné blaho tím, že za nás obětoval svého Syna.
Pozn.: K dalšímu vzdělávání v oblasti AI lze využít např. webináře GrowJOB Institute (www.konecprokrastinace.cz/webináře).
Mgr. Veronika Tichá, členka KS Praha. (Společně s manželem vede komunitu pro léčbu závislosti Bétel v Kralupech nad Vltavou.)
Převzato se svolením z časopisu Život víry 2025/5, str. 14 (www.zivotviry.cz).
Foto: Geoffrey Hinton, cs.toronto.edu
Český zápas č. 23 z 8.6. 2025
