aneb Nejrychlejší cesta do nebe, nebo do pekla?
Tento článek je určen pro širokou, laickou veřejnost. Takže si dovolím pro snazší orientaci provést zjednodušující klasifikaci vývoje oboru umělé inteligence (anglicky: AI – artificial intelligence). Vystačíme zde se třemi skupinami: minulost, přítomnost a budoucnost. 1. přístup symbolické logiky – který je dnes často arogantně přehlížen jako prehistorie oboru AI. 2. Přístup strojového učení, především tzv. hlubokého učení (deep learning), představující dnes hlavní směr oboru AI (který chce studovat většina doktorandských studentů). 3. Neuroevoluce, čili počítačové napodobování procesů evoluce na této Zeměkouli. Snad budoucnost.
Neuroevoluce (Neuroevolution) by dnes (tj. v listopadu 2019) měla představovat nejslibnější vývojový směr umělé inteligence (AI), měla by být i nejrychlejší cestou k dosažení lidské úrovně obecné inteligence (open-ended discovery is likely the fastest way to achieve humanlike artificial intelligence), nikoliv jen minulé, úzce specializované AI (ve které vyniká přístup hlubokého učení). Neuroevoluce není dnes zcela novým výzkumným přístupem. Nicméně po dobu nejméně minulého desetiletí byl přístup neuroevoluce ve stínu jiných (ekonomicky úspěšnějších) přístupů k vytváření AI. Komerčně úspěšnější byly dosud přístupy úzce specializované AI (s praktickými aplikacemi jako jsou: rozpoznávání obrázků, samořídící automobily, …). Snad největší praktickou nevýhodou přístupu neuroevoluce je potřeba velkého množství počítačových výpočtů. Bude ale tato dnešní nevýhoda podstatným brzdícím faktorem i v dohledné budoucnosti?
Rostoucí výpočetní výkon
Než podrobněji vysvětlíme AI přístup neuroevoluce, připomeňme si historii růstu výpočetního výkonu počítačů. Začnu tu historii vlastní zkušeností. V polovině 70. let minulého století, hodina strojového času tehdy nejmodernějšího počítače v Česku, IBM 370, v mém velkém strojírenském podniku v Brně byla pro externí zákazníky stanovena na 4000 Kč (přičemž můj měsíční plat systémového analytika tehdy představoval cca 2500 Kč.) Ostatní brněnské podniky byly ochotny platit tu finanční částku našemu podniku za provedení svých ekonomických výpočtů na našem tehdy neobvykle spolehlivém a rychlém počítači IBM 370 a vyplatilo se jim to, oproti nespolehlivým a méně výkonným počítačům typu EC. Můj spolužák si tehdy podal i podnikový zlepšovací návrh na úsporu strojového času počítače IBM 370, což se dalo poměrně snadno vyčíslit (například oproti mému kvalitativnímu zlepšovacímu návrhu - uživatelsky přátelského rozhraní).
Výpočetní výkon a parametry paměti dnešních mobilních telefonů (v roce 2019) řádově přesahují parametry tehdejšího záviděníhodného sálového počítače IBM 370 s instalovanou sálovou klimatizací. Říkáme, že dnes mají počítače brutální výpočetní výkon, a proto si také mohou dovolit řešit problémy, například úlohy specializované AI, jinak, než jak je řeší velikostí omezený lidský mozek (uzavřený v lebce, zatím bez přímého přístupu do cloudu).
Jenže v dohledu lidstva je již fantastický výpočetní výkon. Charakteristika „brutální“ na nadcházející výpočetní výkon již nestačí. Posuďte sami. V měsíci říjnu roku 2019 oznámila firma Google světu svou „kvantovou nadřazenost (quantum supremacy)“. Dokladovala to prostřednictvím 200 sekundového výpočtu velmi specializovaného problému na svém stroji Sycamore (with a chip consisting of 53 qubits), který by dnešnímu nejvýkonnějšímu superpočítači (s tradiční architekturou) trval cca 10 000 let. Rozdíl mezi přívlastky „brutální“ a „fantastický“ je tedy cca 10 000 let.
Nejlepší pracovníci se nejhůře řídí
“The best guys are hardest to manage“. V rozhovoru pro tisk to kdysi prohlásil Frank T. Cary, výkonný ředitel firmy IBM v letech 1973 až 1981 (v době kdy firma IBM zaměstnávala 400 000 zaměstnanců a měla i vlastní hymnu). A ta Caryho poučka platí určitě i dnes. Představte si, že vynikající pracovník firmy IBM, fyzik Chad Rigetti, firmu IBM opustil. Ve svém vlastním podniku pak realizoval svůj vlastní kvantový počítač s kryogenickým chlazením. Dosáhl ochlazení až na 0,003 stupně Kelvina, což je docela blízko u absolutně nejnižší teploty ve vesmíru. A i díky tomu silnému podchlazení už funguje poměrně spolehlivě „duchařský jev“ zapletení (entanglement). Funguje úspěšně jak u Rigettiho kvantového počítače (Rigetti’s thirty-two-qubit computer), tak také u počítače firmy Google (Sycamore with a chip consisting of 53 qubits). Nicméně firma IBM význam technologického milníku v kvantovém počítání firmou Google zlehčuje.
A Chad Rigetti, původní pracovník firmy IBM, teď se svou soukromou firmou může úspěšně konkurovat svému někdejšímu zaměstnavateli IBM. Caryho poučka, že „nejlepší pracovníci se nejhůře řídí“ je tedy vskutku platná a poučná.
Navíc firma Rigetti dnes povzbuzuje využití nového, kvantového přístupu k výpočtům přes svůj kvantový počítač dostupný v cloudu – prakticky pro kohokoliv, kdekoliv a zdarma. Říká se tomu demokratizace kvantové technologie. Najdete více na webové stránce www.rigetti.com.
Poznámka: Demokratizace, která se asi ekonomicky vyplatí.
Aby byl kvantový počítač v praxi užitečný, větší skupina lidí se musí nejdříve naučit zacházet s novým základním vybavením oproti tradičním počítačům. Kvantový počítač totiž nabízí tři možné stavy, nikoliv jen dva, tj. nulu a jedničku. Hodíte-li minci, padne buď hlava nebo orel (nula nebo jednička). Roztočíte-li ale tu pomyslnou minci, můžete vidět oba stavy (nulu i jedničku) současně. To je právě ten třetí kvantový stav, kterému se odborně říká superpozice.
V rámci tzv. demokratizace technologie dostanou zájemci v cloudu na webu firmy Riggeti možnost si cokoliv kvantově zdarma spočítat. Současně ale tím svým počítáním na cizím počítači zájemci zdarma ukazují (prozrazují) majiteli kvantového počítače své inovativní přístupy k řešení svých praktických problémů v novém výpočetním prostředí (0, 1 a superpozice). Majiteli počítače tím tedy odevzdávají výsledky své lidské tvořivé činnosti. Otázkou je, kdo (v tržním prostředí) z takové situace ekonomicky nakonec vytěží více: majitel kvantového počítače, nebo zadarmo experimentující programátor? Z demokratizace technologie ale nepřímo těží celá lidská společnost, protože se tak rychleji posouvá technologický pokrok vpřed.
Principy neuroevoluce
A nyní se konečně vraťme k bližšímu osvětlení principu neuroevoluce. Tradiční školský systém je nastaven tak, aby učil své studenty neplýtvat zbytečně svou energií a zdroji, a směřovat co nejkratší cestou k cíli. Pokud jsou ale výpočetní zdroje již hojné (což lidský mozek od přírody není), je možné volit už i jiné, tvořivější strategie řešení problémů. Tak totiž na zeměkouli postupovala evoluce. A měla na svůj postup miliardy let. Lidé tak dlouhý čas na experimentování (cestu pokusů a omylů) samozřejmě nemají, mají dnes už ale na viditelném horizontu dosažitelný fantastický výpočetní výkon.
Podobně jako hluboké strojové učení (anglicky „machine learning“ a „deep learning“, někdy též posměšně nazývaný „výpočetní statistika“), kopíruje i přístup neuroevoluce neuronovou síť mozku. Využívají ji tedy oba přístupy. Jenže místo posilování učícího systému směrem ke konkrétnímu řešení co nejkratší cestou (viz přístup strojového učení tzv. reinforcement learning), neuroevoluční přístup používá prohledávání všech možných stavů, které mohou nastat. Neuroevoluce tedy nevede k cíli přímo. To samozřejmě může být, s ohledem na omezené výpočetní zdroje, neefektivní (případně i vést do slepé uličky). Jenže tím se ale podstatně zvyšuje pravděpodobnost nalezení zcela originálního řešení. A o to také především jde!
Neuroevoluční přístup tedy nutí systém vyhledávat všechny možnosti, které jsou něčím nové, odlišující se od těch již známých (tzv. novelty search). Praktickým dopadem u některých řešených úloh dochází k proti-intuitivnímu paradoxu, že: když zcela ignorujete vytčený cíl, můžete ho tak docílit dříve, než když o něj usilujete. Zopakujme podstatné: Programy strojového učení (deep learning) se při svém výcviku postupně zdokonalují a postupně zlepšují svůj výkon. Neuroevoluce při svém učení ale generuje a aplikuje náhodná čísla (podobně jako evoluce), čímž nejprve může dojít ke zhoršení výkonu systému AI, a teprve v další fázi ke zlepšení výkonu. Takové systémy AI se pak samozřejmě špatně komercializují v dnešním ekonomizujícím kapitalismu.
Příklad nalezení originálního řešení
Na rozdíl od našeho okolního světa, stolní hry představují uzavřený systém fungující dle předem daných pravidel. Kombinací přístupu hlubokého učení s neuroevolučním přístupem (v AI programu) v průběhu asijské hry Go (viz dosažený společný výkon americké firmy Google a britské firmy DeepMind, kterou Google koupil) se dospělo k objevení zcela nové herní strategie (ve hře Go), do té doby člověkem nepoznané. A důsledkem je také to, že při použití brutálního výpočetního výkonu dnešních počítačů a díky AI programu AlphaGo dnes už žádný člověk nemá šanci (se svým biologicky omezeným mozkem) zvítězit nad počítačem v této hře (ve specializované úloze AI). Co se ale asi stane při budoucím praktickém využívání fantastického výpočetního výkonu? Těšte se a bledněte zároveň.
Pokus o závěr
Začněme takto: Vycházejte z toho, že technologický vývoj nelze centrálně zakázat, protože žádné centrum moci na této planetě Zemi neexistuje. Kostky pokroku jsou již vrženy, vlak do budoucnosti se již rozjel a nelze ho zastavit. Stane se neuroevoluce nejrychlejší cestou do nebe, nebo spíše do pekla? Převáží vznešené zájmy lidí-altruistů nad nízkými zájmy lidí-egoistů? To jsou prozíravé klíčové otázky ohledně naší budoucnosti. Odpověď zatím neznáme.
V každém případě se sledování tohoto technologického vývoje jeví jako mnohem rozumnější činnost, než úzkostlivé posuzování možného rozsahu migrace do EU, nebo nadměrné vzrušování se nad komunistickou či disidentskou minulostí dnešních českých politických aktérů při příležitosti 30. výročí tzv. Sametové revoluce. Naše budoucnost bude totiž podstatně jiná, než byla naše minulost. Takže ano, vyrovnávejte se s českou minulostí, současně ale myslete i na naši budoucnost. Ta ovlivní úplně všechny lidi. A asi více než probíhající klimatické změny.
Neuroevoluce je meta-algoritmem, tzn. je algoritmem pro návrh algoritmů. Dosud ještě není objeveno řešení mnohých klíčových problémů, abychom mohli přejít do inženýrského stádia praktické realizace uživatelských projektů. Nicméně budoucnost pro tento druh AI již byla principiálně otevřena. V principu tomuto vývoji nic nebrání. Teď už je budoucnost přístupu neuroevoluce na kvantových počítačích jen otázka času. Dnes se tedy ptáme „kdy“, nikoliv „jestli vůbec“. Ale ty možné důsledky!
Největší potenciální problém vidím v nepředvídatelnosti důsledků budoucího vývojového stádia neuroevoluce. Jsem vzděláním i praxí inženýr. Každý inženýr si nejdříve naplánuje budoucí kýžený stav, a dle projektu ho také zrealizuje. A současně také nese za svůj tvůrčí výtvor patřičnou zodpovědnost (například v Česku hledali 11 let soudně stíhatelného viníka u Ostravy spadlého železničního mostu!). Jenže my dnes vůbec nevíme, kam až kam se může vyvinout neuroevoluce. Na obzoru se tedy pro lidi dnes jeví jak nebe, tak i peklo (sarkasticky: stav superpozice). Lidé se obvykle bojí, že by je budoucí umělá inteligence svou inteligencí mohla překonat a tím i ohrozit v konání na této Zemi. Na to Ray Kurzweil reaguje slovy: „Musíte proto vyvinout ještě více inteligentní AI, aby vás už neohrožovala.“ Dle principu: čím více inteligentní AI, tím méně nebezpečná.
V kratším časovém horizontu nám samozřejmě hrozí větší nebezpečí od člověka. Od našeho bližního, který nám může katastrofálně ublížit. Nemám spočítáno, kolikrát v lidské minulosti došlo k pozitivnímu využití, a kolikrát došlo ke zlomyslnému zneužití nějaké silné technologie. Pokud ale bude přístup neuroevoluce pokračovat ve zneužitelném společenském systému, pravděpodobnost zneužití budoucí AI technologie (vedoucí k zotročení případně i vyhubení lidí) se podstatně zvyšuje.
Vždyť tzv. nemravné jednání není dnes v našem společenském systému vůbec právně postižitelné. A už jen toto, při použití budoucí silné technologie, by k budoucímu neštěstí mohlo stačit. Potřebujeme dnes proto „milion chvilek pro budoucnost“ k zamyšlení se nad současnou lidskou společností v kontextu naší technologické budoucnosti. A pak jednat. Jde totiž o hodně.
Jisté je, že v příštím roce nebude ekonomicky opodstatněný přístup neuroevoluce ještě plně funkční a běžně dostupný. Nicméně spekuluji, že při pokračování současného tempa technologického rozvoje, může být do deseti až dvaceti let o tom hlavním (pro celé lidstvo) již rozhodnuto. Nespoléhejte na žádný „centrální zákaz“ a současně berte v úvahu, že rozjetý vlak nelze zastavit. Raději bych rychle dojel do nebe, než do pekla.
Autor je CSd (celkem spokojený důchodce)