25.4.2024 | Svátek má Marek


VĚDA: Jste zombie, pouze o tom ještě nevíte

12.3.2020

Jen cca 4 % práce v USA vyžadují lidskou tvořivost. Zbytek z dnešních pracovních míst (96 %) je tedy na nevyhnutelné cestě k smrti. V podstatě toto vám zaměstnancům vzkazuje někdejší mistr světa v šachu, Garri Kasparov, který v roce 1997 prohrál se superpočítačem Deep Blue firmy IBM, přestože prokázal a dokázal ve hře vidět několik tahů dopředu.

Garri dnes označuje sám sebe za první lidskou oběť z řad znalostních pracovníků, jejíž pracovní místo bylo ohroženo IT strojem. Ale Garri se s tím smířil. Proč? Technologický vývoj prostě nelze zastavit. Výpočetní výkon superpočítače IBM, který Kasparova v roce 1997 tak teatrálně porazil, je dnes už principiálně dosažitelný i v mobilním telefonu. I počítačový program na hru šachu, je dnes už pokročilejší (jako aplikace tzv. nelidské umělé inteligence, tj. statistického strojového učení).

To výše zmíněné číslo, 96 % nahraditelnosti člověka, představuje teoretický potenciál dosažitelný s principiálně dnes již poznanou technologií. Sice ještě ne dnes plně implementovanou, ale v delším časovém horizontu (několika desetiletí) zmíněnému vývoji (procesu implementace technologie) nic potenciálně nebrání. Nic tomu vývoji nebrání i bez nějaké budoucí revoluce v poznání (breakthrough), která samozřejmě také někdy (!) přijde. A co bude s těmi zbývajícími 4% (tvůrčí práce), se dosud neví. Divokou spekulaci o budoucí tvůrčí super-inteligenci (v důsledku budoucí revoluce v poznání) zde zatím přeskočme. Vraťme se raději do minulosti a tam, kde se úspěšně prosadila lidská tvořivost.

Budoucí uplatnitelnost (vám lidem) zajistí lidská tvořivost

Posilujte ji proto, prosím. Posilujte svou osobní konkurenceschopnost vůči nastupujícím, výkonem nepřekonatelným, strojům s umělou inteligencí (AI). Technologický vývoj počítačů a AI probíhá dnes především v USA, ale za absolutně nejtvořivější zemi světa (kvantitativně měřeno dle počtu udělených patentů) bylo označeno Švýcarsko (viz). Tato malá evropská země je pro Česko blíže jak geograficky, tak i velikostí – a tedy může poskytnout dobrou zpětnou inspiraci pro tzv. českou montovnu (což je, samozřejmě, jen hanlivé označení naší málo konkurenceschopné ekonomiky). O vývoji budoucích počítačů a AI ve Švýcarsku nejsem informován. I proto si zde všimnu jen jejich historie, která byla již poměrně dobře zdokumentována.

Mou pozornost přitáhlo vyprávění česko-švýcarského architekta Miroslava Šika, že ve Švýcarsku nelze nalézt žádnou minulou architekturu bohatých paláců. V té zemi prý nikdy neproběhl feudalismus. Proč asi? To hornaté švýcarské teritorium, bez surovinových zdrojů, nebylo pro hamižné feudalisty vůbec nijak přitažlivé. Žili tam jen sedláci, kteří si stavěli svá fortelná selská stavení. Jenže jejich extrémně silným národním zdrojem (národní konkurenční výhodou!) byl zdravý selský rozum. A právě ten zdravý selský rozum vedl Švýcary k jejich specifické švýcarské demokracii, historickému vyhnutí ničivým evropským válkám a k vytváření národního bohatství především pomocí tvořivosti. To by mohlo být pro Čechy inspirativní.

Zde je kontextuální emotivní povzdech pamětníka nad slabou českou konkurenceschopností (z důvodu nerealizovaných českých inovačních příležitostí), s cílem nejen urazit jmenované, ale též vyprovokovat ostatní čtenáře k hlubším úvahám. Jak? Parafrázováním výroku Garri Kasparova z nadpisu článku, totiž: Ekonomové 19. století a krátkozrací politici, jste magoři, pouze o tom ještě nevíte! Toto je ale jen můj osobní povzdech. Nic víc. Žádná politická agitace! Takže klid, prosím.

Vlny, které ztvární naši budoucnost

Spíše skeptický komentář k pasáži článku (ohledně budoucích dopadů AI na lidskou společnost) od spolužáka, strojního inženýra, který pracovně strávil hodně svého životního času v tzv. rozvojovém světě, je následující: „Ahoj Miro, něco na tom je, ale nedomnívám se, že to (tzn. 96 % zombie) bude platit globálně všude. V zemích jako je většina Afriky, vnitrozemí Číny, Ruska a zbytku Asie se to podle mně moc nedotkne, protože tam se žije ze zemědělské činnosti, která bude pokračovat, protože ty miliardy lidí potřebují denně něco do huby. A ty jejich 4 procenta chytrých odejdou do USA nebo do Evropy, což se již dlouho děje i teď, a bez nich se ty země nikam neposunou. To mi říká zbytek mého selského rozumu.“

Můj spolužák má jistě dobrý, praktický postřeh, ale v jeho úvaze (o budoucí možné negativní vlně emigrace tvořivých lidí z rozvojového světa do rozvinutého) nejsou zahrnuty úplně všechny faktory ve hře o budoucnost. Jak to celkově nakonec dopadne nevím, ale metaforicky zde poznamenám, že i na moři a oceánech vždy existují různé druhy vln. Některé vlny, se znaménkem plus a minus, se navzájem vyruší, ale jiné se občas i sečtou a vyprodukují pak obludnou vlnu.

Jedna důležitá pozitivní vlna, kterou můj spolužák nebere v úvahu, je cílevědomé globální povzbuzování podnikatelské a inovační činnosti. A ta by měla ovlivnit život alespoň miliardy lidí hlavně v tzv. rozvojovém světě. Takovou inovační vlnu inicioval, a trvale ji posiluje, například americký technologický podnikatel, vzděláním lékař (nikoliv ekonom!), Peter Diamandis. V té technologické vlně je zahrnuto i úsilí o masivní výrobu potravin a bydlení pro lidi v tzv. rozvojovém světě. Popularizátor Tony Robbins se zabýval vypsáním motivační ceny X-Prize, kterou chce motivovat inovátory právě v oblasti produkce lidské stravy. (Ano, stále totiž platí poučka, že „člověk musí nejdříve jíst, pít a bydlet, a teprve pak se může zabývat vědou, kulturou a politikou“.) Ale jsou i mnozí jiní, kteří pracují na budoucnosti nasycení, poskytnutí čisté vody a střechy nad hlavou pro lidi rozvojového světa.

Takže ano, vidím na obzoru rozbouřeného moře historie i pozitivní vlny, nejen hrozby. Jak to ale v součtu událostí dopadne, nemohu předpovědět. Pro dosažení budoucího stavu hojnosti, Diamandis zdůrazňuje nejen potřebu nových technologií (ty jsou vcelku samozřejmé), ale také potřebu extrémně vysokého kooperativního úsilí lidstva (v dnešní silně konkurenční společnosti). Ten druhý zmíněný faktor budoucího úspěchu je s velkým otazníkem. Nevíme, zda se ho podaří vyvolat. Kritickými faktory budoucího úspěchu zůstávají oba faktory, tzn. jak technologie, tak i spolupráce.

Tři závěrečné moudrosti

1. Garri Kasparov prokázal, že umí uvažovat několik tahů dopředu a domyslet důsledky ve hře v šachu. Dokázal to v uzavřeném systému, který je dán pevnými a neměnnými pravidly po celou dobu hry. Do jaké míry budou platit jeho předpovědi o budoucích důsledcích AI v otevřeném systému, jímž je lidská společnost, dosud nevíme. Očekávejme, že jeho osobní předpovědi se mohou naplnit s pravděpodobnou úspěšnosti podobnou předpovědím amerického inovátora Ray Kurzweila, která je 86%. Zde ale končí věda a začíná víra.

2. K etice užití AI Garri Kasparov sděluje: „Umělá inteligence je jako zrcadlo, které umocňuje jak to dobré (v lidské povaze), tak to zlé.“ Kasparovo sdělení lze interpretovat i tak, že (ve výhledu několika budoucích desetiletí) bude zřejmě užitečnější se snažit kontrolovat a korigovat lidské chování, spíše než spoléhat na vývoj nějaké etické umělé inteligence, která to pak zařídí za nás, lidi.

3. Cenné doporučení: Poznej sebe sama, aby ses nestal snadno manipulovatelnou zombií!

Proč? Existuje totiž nebezpečí, že AI (která nás již dnes v různých IT zařízeních průběžně sleduje), bude o nás vědět více, než víme my sami o sobě.Izraelský historik Yuval Noah Harari nás poučuje následovně: „Svoboda do značné míry záleží na tom, kolik toho víš sám o sobě. Musíš toho vědět více, než například vláda a korporace, které se snaží s tebou manipulovat.“

Příloha

Co nového sdělila „nelidská“ umělá inteligence šachistovi Garrimu Kasparovi

U královského dvora býval v minulosti i dvorní šašek, který dokázal tomu nejmocnějšímu člověku přiměřeným způsobem sdělit i nějakou nepříjemnou zprávu (a neurazit ho přitom). A tuto funkci vůči lidem může dnes převzít AI, která uvažuje jinak, než člověk.

Hra šachu modeluje docela úspěšně lidskou situaci (otevřeného systému lidského života) v uzavřeném systému šachové hry. A programy strojového učení, tzn. „nelidské“ AI, dokážou v této hře získat více zkušenosti než lidé. Proč? AI na brutálně výkonném počítači (na rozdíl od životním časem a výpočetním výkonem omezeného člověka) dokáže odehrát miliony šachových partií a z nich zobecnit svá poznání. A pro člověka snad překvapivé klíčové poznání spočívá v tom, že šachová figura „střelec“ je ve hře šachy důležitější figurou než šachová figura „král“. Proto šachovému střelci je dnes AI programem, AlphaZero, přiřazeno vyšší ocenění než šachovému králi, který se po celou dobu hry typicky skrývá za ostatními figurami – což je typické zjištění i pro reálné lidské střety.

Garri Kasparov komentuje tento herní poznatek následovně: „Program AI AlphaZero si cení střelce více než krále. Domnívám se, že z hlediska čísel přidělil AlphaZero střelci příliš velkou výhodu.“

***

O reálném (nikoliv jen herním) válečném umírání s úsměvem, poslechněte si (melodickou, docela vtipnou, ač dnes již určitě politicky nekorektní) píseň: „Za císaře pána a jeho rodinu!“ 

Autor před 30 lety pracoval na aplikaci české lidské umělé inteligence (AGI) v anti-inovačním prostředí českého ekonomického výzkumu