29.3.2024 | Svátek má Taťána


VĚDA: Rok 2045 - Děkujeme, odejděte! Ale co do té doby?

12.8.2009

V roce 2045 by v důsledku exponenciálního vývoje měly technologie splynout do jednoho bodu (singularity) a měla by být překonána lidská inteligence. Ale co do té doby?

„Odejděte z vedoucích míst do rezervace pro méně inteligentní tvory této planety.“ To je možný vzkaz od umělé inteligence, která by kolem roku 2045 (tzv. singularity) měla předčit inteligenci lidskou. Protože máme v Česku již zkušenost s takovými plamennými výzvami, můžeme snad přesněji spekulovat, jak to asi může dopadnout kolem přechodového roku 2045. Tou dobou také může být nalezena správná odpověď na Fermiho otázku z 50. let minulého století: Proč ve vesmíru kolem nás již nejsou tisíce inteligentních civilizací, které by se s námi měly pokoušet navázat kontakt?

Rok 2045 nebyl určen žádným zaníceným náboženským vizionářem (s poselstvím o blížícím se konci světa), ale racionálním vědcem a respektovaným vynálezcem. Bod tzv. singularity je extrapolací existujících trendů exponenciálního vývoje technologií. Provedeným extrapolacím nelze z vědeckého hlediska nic podstatného vytknout. Rey Kurtzwail, tvůrce teoretických základů tzv. singularity, říká, že exponenciální technologické vývojové trendy nezastavily v minulosti ani ekonomické krize, ani válečné konflikty, ani vládní podpůrné či blokující politiky. Téměř jistě budou proto pokračovat i v budoucnosti. Nezodpovězené (a vědecky neprokázané) je pouze to, jak se zachová lidská inteligence v této budoucí extrémní situaci kolem roku 2045. Odejde nebo neodejde dobrovolně do přidělené rezervace za minulé zásluhy?

Univerzita „Singularity Univerzity“

Vznik americké Singularity University byla inspirován předpověďmi Ray Kurzwaila. Zde se připravují studenti v mezioborovém studiu hlavních technologických trendů (ale také v podnikání a financování). Právě v mezioborovém studiu se očekávají nejdůležitější budoucí objevy. Absolventi by měli být kompetentní řídit projekty, které představují největší výzvy pro lidstvo v nejbližší dekádě. Studenti o svém studiu říkají: Jsme tady proto, abychom vymysleli jak pomoci miliardě lidí během následujících 10 let (We’re here to figure out a way to help 1 billion people in 10 years). Vzrušení vládne kolem nových technologií, které mohou mimo jiné zmírnit či odstranit problémy s pitnou vodou a hladem v rozvojovém světě, vyřešit energetické problémy rozvinutého světa a také problémy globálního oteplování. (Americká národní akademie vytipovala 14 největších výzev současného inženýrství.) Singularity University učí myslet globálně a exponenciálně (nikoliv lokálně a lineárně) a studenti by se měli naučit „ovládnout technologii předtím, než ona ovládne nás“.

Hlavním sponzorem univerzity je firma Google a výuka probíhá v prostorách amerického kosmického střediska NASA. Na Singularity University NASA - Googlepřišlo 1200 přihlášek, ale jen 40 lidí bylo vybráno do prvního ročníku. Protože univerzita měla možnost si mezi posluchači vybírat, dostali do prvního ročníku příležitost jen podnikatelé. Čtyřicet studentů, samostatných podnikatelů, by mělo mít větší šanci prosadit nové technologie v praxi než stejný počet studentů z řad současných zaměstnanců. V tržní ekonomice se při prosazování inovací věří více aktivním samostatným jedincům než zaměstnancům velkých a státních organizací.

Zatím se ale na univerzitě nevyučuje, jak psychicky a společensky zvládnout nevyhnutelnou vzdálenější událost, tj. příchod „inteligentnější“ umělé inteligence než je inteligence lidská. Nemáme křišťálovou kouli pro vhled do budoucnosti, ale některé budoucí společenské intervence snad odhadneme i dle méně radikálních událostí minulých. Lidé jsou stále geneticky stejní a ani jejich společenský software (kultura chování) se rychle nemění (na rozdíl od technologie).

Nová perspektiva a potřeba nových přístupů v řízení výzkumných projektů

Určený bod singularity nám též umožňuje obrátit perspektivu. Můžeme se podívat se z pohledu téměř jisté události kolem roku 2045 na události současné i minulé. Můžeme se zamyslet nad efektivností řízení a hodnocení inovačních projektů z pohledu roku 2045: Kdy se již v předchozí historii objevil nový perspektivní přístup a proč uspěl či neuspěl v daném prostředí. Při tomto zpětném pohledu nás nutně musí napadnout, že mnohá závažná rozhodnutí byla a jsou někdy činěna více sebevědomými než kompetentními jednotlivci, které většina populace ale považuje za skutečné současné experty a lídry.

Radikální technologické změny a jejich tempo vyžadují i změny v řízení. Management minulého a předminulého století musel vyřešit řešit výrobu složitých výrobků ve velkém množství. V tomto století budou podniky i společnost muset zvládnout řízení inovací, které se dostavují zrychlujícím se tempem (http://hbr.harvardbusiness.org/2009/02/moon-shots-for-management/ar/1). Podívejme se na podrobněji počátek radikálních inovací. Kdo a jak určuje, které výzkumné a vývojové projekty jsou perspektivní a které nikoliv? Jde nám zejména o projekty placené z peněz daňových poplatníků, protože soukromé firmy samy plně přebírají riziko či odměnu za svá rozhodnutí. Jako daňový poplatník delegujete pravomoc za správná rozhodnutí na tzv. experty. Kdo jsou to ale ti experti?

Mýty o expertním posouzení budoucnosti

Existují naivní představy o expertech, kteří ambiciózní výzkumný projekt odborně a nestranně posoudí. V době exponenciálního vývoje poznatků takové odborné posouzení už v principu není možné, i kdyby experti posuzovatelé měli své ostatní přímo andělské vlastnosti - nežárlili by na své kolegy, dali by přednost pokročilejšímu cizímu projektu před vlastním průměrným, byli neúplatní a nebyli členy různých profesionálních „mafií“ a jejich ego by nesmělo být větší než jejich skutečná odbornost. Tím neříkám, že by se odborné posouzení projektů vůbec nemělo dělat, ale měla by být reálná očekávání od těchto rituálů.

Před několika lety v časopise Technology Review veřejně poplivaný Aubrey de Grey (http://www.technologyreview.com/communications/14146/) Aubrey De Greyje dnes jedním z přednášejících na Singularity University. V roce 2005 jsme se v prestižním časopise mohli dočíst, že Aubrey „pracuje jako pomocná síla v malé kanceláři, pije moc piva, jezdí na starém kole, obléká se nedůstojně, nosí dlouhý vous, vypadá mnohem starší a je mu přitom teprve 40 let, je bezdětný a jeho manželka je o 19 let starší (a proto je zřejmě cvok)!“ Šéfredaktor Technology Review, Jason Pontin, který tyto vědecky nedůležité informace pečlivě shromáždil, musel na konci svých prezentací připustit, že Aubrey de Grey má možná v něčem pravdu, protože přední gerontologové nebyli schopni vyvrátit vědeckými argumenty jeho ambiciózní projekt na podstatné prodloužení lidského života. Nikde na světě to nemají radikální inovátoři lehké a u nás v Česku k tomu přistupují další specifika.

Existuje také naivní představa veřejnosti, že vyšší funkce v organizaci znamená vyšší profesní odbornost. Výjimky samozřejmě vždy existují (viz například případ úspěšného vědce a podnikatele, supermana Stephen Wolframa (http://www.stephenwolfram.com/publications/recent/aps2007/)), ale klíčové pravidlo pro většinu případů je zcela jiné. Kromě nezbytných organizačních schopností je pro povýšení v organizacích nutnost mít v organizaci co nejméně nepřátel (aby člověk mohl být od svých kolegů zvolen do čela organizace). Profesní odbornost lze pak vylepšit až následně: tím, že z vedoucí pozice přiměje nějaké psychicky slabší jedince v organizaci k přidání svého jména pod jejich výzkum. Při posuzování veřejně viditelných autorit je třeba si uvědomit, že jejich zvolení do vedoucí funkce bylo výsledkem především jakési „soutěže popularity“, nikoliv měřítkem vědeckosti a profesní odbornosti.

A jaké lepší řešení po té zdrcující kritice tedy doporučuji? Přiznám se, že to ještě nemám zcela zpracováno. Nicméně by všem výběrovým řízením v demokratické společnosti určitě prospěla aplikace principu plné průhlednosti. Možná také, že než se spoléhat jen na nominální experty, mohli bychom využívat více moudrosti davu. Vždyť Wikipedie, která vznikla jen z moudrosti davu, je na 99 procent stejně kvalitní jako encyklopedie, které zpracovali experti. Podstatný rozdíl je pouze v nákladech: Wikipedie vznikla a je dostupná zcela zdarma.

Závěr

Než nás vystřídá vyšší inteligence kolem roku 2045, budeme muset řešit problémy s jedinci, jejichž sebevědomí či arogance je často vyšší než jejich odbornost a možná i inteligence.

Dovolte mi s odstupem času se podělit i o jednu konkrétní českou zkušenost. Jde o vývoj umělé inteligence prostřednictvím lingvistického přístupu matematika doc. Václava Poláka, se kterým jsem úzce spolupracoval pět let, 1987 - 1991. V současné době v umělé inteligenci sílí přístupy, které na počítači modelují mozek jako síť neuronů, protože mezitím postoupil vývoj ve skenování mozku a zvýšila se kapacita počítačů. Odhaduje se, že umělý mozek by mohl být funkční do deseti let. V 80. letech minulého století se ale jevil jako užitečnější přístup, který vycházel z vnějších (tj. více viditelných) projevů mozku - z přirozeného jazyka.