30.9.2020 | Svátek má Jeroným, Ráchel


VĚDA: Až se počítače budou ptát “proč?”

24.12.2019

Vsunu zde stejný úvodní orientační odstavec pro širší veřejnost, jako ve svém minulém článku. Vývoj oboru umělé inteligence (anglicky: AI – artificial intelligence) lze zjednodušeně rozčlenit do tří skupin: 1. minulost, 2. přítomnost a 3. budoucnost. Takže: 1. přístup symbolické logiky – který je dnes často arogantně přehlížen jako prehistorie oboru AI. 2. Přístup strojového učení, především tzv. hlubokého učení (deep learning), představující dnes hlavní směr oboru AI (který již dnes dokáže vydělat peníze, a dnes ho také chce studovat většina doktorandských studentů). 3. Neuroevoluce, čili počítačové napodobování vývojových procesů evoluce na této Zeměkouli. Je to sice časově vzdálenější, ale nikoliv nereálná budoucnost, čemuž jsem se věnoval ve svém minulém článku.

Říjnový článek (roku 2019) v americkém časopise Wired končí následující úvahou Joshua Bengio: Až se počítače budou ptát „proč“, budou mnohem chytřejší.

Když se děti ptají „proč?“, táží se tímto způsobem na kauzalitu. To je ale přesně to, co dnes dominantní směr oboru umělé inteligence (AI), založený na strojovém učení (přesněji na tzv. hlubokém učení umělých neuronových sítí, tj. sítí simulovaných na počítači), zatím ještě neumí. Dnešní strojové učení typicky dokáže ve velkém množství předložených dat rozpoznat jakési vzorky (pattern recognition), může zjistit vztahy korelační, nikoliv kauzální.

Dvě vysvětlivky: Co je to korelace, a co je to kauzalita? Příklad: Rakovina člověka kuřáka je jen ve vztahu korelačním vůči nemocnici (kde člověk/pacient možná právě pobývá), ale je ve stavu kauzálním ke kouření. Tabák rakovinu vyvolal, takže rakovina je kauzálně propojena s kouřením, nikoliv s nemocnicí. Doug Lenat uvádí humorný příklad velmi těsné (ale jen náhodně vzniklé) korelace mezi evidovaným poklesem užití internetového prohlížeče Internet Explorer a poklesem vražd v USA v posledních letech. „Kéž by ten vztah byl kauzální!“, komentuje Doug Lenat.

Joshua Bengio (narozený v roce 1964 v Paříži) dle Wikipedie je kanadský počítačový vědec, nejvíce známý svou práci v oblasti umělých neuronových sítí a hlubokého učení. Byl spolu-příjemcem prestižní Turingovy ceny za přínos v oboru hlubokého učení, spolu s výzkumníky Geoffrey Hinton and Yann LeCun. Je profesorem na Katedře informatiky a operačního výzkumu na Univerzitě v Montrealu, a vědeckým ředitelem Montrealského institutu pro učení algoritmů (MILA). V Montrealu též spoluzaložil inkubátor, který transformuje výzkum umělé inteligence do praktických byznys aplikací.

Kanadský výzkumník Joshua Bengio se snaží obohatit současné strojové učení i o schopnost rozpoznat kauzalitu. Nevíme sice přesně, jak to Bengio chce konkrétně udělat, ale je to je od něj určitě přínosná činnost. Nicméně je to stále ještě nedostačující krok pro dosažení kýžené úrovně lidské inteligence (AGI - Artificial General Intelligence). Obecná lidská inteligence je širší ve svých schopnostech, než umožňuje dnešní strojové učení (posměšně nazývané „výpočtová statistika“). Při rozpoznávání situací lidé těží ze znalostí svých předchozích životních situací (uložených ve své paměti) a jsou též schopni se vcítit do jiné lidské situace.

Čučí jak tele na nová vrata!

Pokud postavíte člověka a algoritmus strojového učení před lidské drama jakým je „Romeo a Julie“, názorně vynikne podstatný rozdíl. Lidskou (obecnou) inteligenci v té situaci napadá hodně zajímavých otázek „proč“ a „jak“, zatímco strojové učení (dnes dominantní směr AI!) hodnotí stejnou konfliktní lidskou situaci extrémně primitivně. Posměšně bychom zde mohli použít rčení, že AI na tu lidskou situaci „čučí, jak tele na nová vrata“. Rozdílnost perspektivy lidské a strojové je tak dobře viditelný, jakož i reálné možnosti zpracování pozorované informace člověkem a dnešním počítačem.

Pozor ale, ten posměšný údiv totiž platí občas i opačným směrem. „Jako telata na nová vrata čučeli“ v roce 2017 i výzkumníci firmy Google a Deep Mind, když jejich program Alpha Zero (tj. úzce specializovaná inteligence) během pouhých 24 hodin hry na počítači objevil úplně nové herní strategie ve stolní hře Go (tj. v uzavřeném systému), které člověk do té doby neznal. Hra Go přitom vznikla již před 3-4 tisíci let v Číně.

Co už dnes ve strojovém učení funguje?

Připomeňme, že úspěšné aplikace strojového učení těží hlavně ze spojení programů strojového učení (umělé neuronové sítě) s brutálním výpočetním výkonem současných počítačů, dnes už i hardwarově AI specializovanými. Takže strojové učení je dnes dostatečně rychlé, což v začátcích oboru AI nebylo. Kdo si počká, ten se dočká! Ve specializované aplikační oblasti, v tzv. uzavřených systémech, dokáže strojové učení už dnes překonat lidský výkon. Jsou to situace například rozpoznávání obrázků (rakovina na snímcích rtg, či obličeje lidé), nebo také stolní hry (šachy, Go).

Jeden podstatný omyl. Propagátoři současného strojového učení občas mylně předpokládají, že tento druh AI bude v praxi aplikován na téměř shodném vzorku dat, na jakých byla tato AI vytrénována. Tento předpoklad ale v praxi platí jen ve výše zmíněných uzavřených systémech (tj. systémech se záměrně omezenou varietou možného chování, jako jsou právě stolní hry). Mimo tyto aplikace se tento druh AI dopouští nepřijatelných chyb, případně i havaruje. Pak se sarkasticky říká, že tzv. hluboké učení (deep learning) je fakticky jen mělké učení, nikoliv hluboké. Jak se to prakticky projevuje? Když totiž například změníte původní čtvercovou plochu šachovnice na obdélníkovou plochu, pak člověk ten situační přechod snadno zvládne, ale AI strojového učení v této nové situaci při hře Go selže. Náš reálný svět je otevřený systém (s prakticky neomezenou varietou chování svých prvků), a který se navíc průběžně mění. Lidská obecná inteligence (vyvinutá v dlouhé pozemské evoluci) se té průběžné změně dokáže přizpůsobit, což je právě jedna z hlavních výhod lidské inteligence vůči AI.

Jak dál s AI?

Názor experta: Je třeba promyslet nové paradigma, abychom my, uživatelé AI, mohli používat chytrou, bezpečnou a spolehlivou specializovanou AI. Abychom k ní měli důvěru. Kombinací dnes dominujícího strojového učení s klasickým přístupem k AI, tj. přístupem symbolické logiky, bychom mohli docílit inteligentnější řešení, a přiblížit se tak k AGI. Toto je názor amerického profesora Gary Marcuse. Viz konstruktivně kritickou knihu Rebooting AI(Restartování umělé inteligence), z roku 2019. Pozor: Kniha „Rebooting AI“ není návodem, jak ukončit vývoj AI, nýbrž jak překonat překážky současného stádia vývoje AI!

Jinde v rozhovoru Marcus říká: „Z technického hlediska je hluboké učení dobré na napodobování vnímání lidského mozku (rozpoznávání obrázků a řeči). Hluboké učení ale nestačí na ostatní lidské aktivity, jako je porozumění lidské konverzaci nebo kauzálním vztahům. Nedostatečně též zobrazuje abstrakce. … Rozpoznání objektu (tváře nebo obrázku) nebo počítačová hra stolní hry (dle pevných pravidel) je úplně jiný problém, než pochopení významu (přečteného textu, nebo vnímaného reálného světa v širších souvislostech). … Byl jsem ohromen: Dnešní komunita hlubokého učení chce všechno řešit jen pomocí neuronových sítí a nedělat nic, co by jim připomínalo klasické programování, chtějí se zcela vyhnout pravidlům (rules).“

Jinými slovy, Gary Marcus si stěžuje na lidskou aroganci - i v dnešním profesním prostředí (roku 2019). Za uplynulých 30 let došlo k úžasnému technologickému pokroku, zatímco lidé ve svém chování zůstali v podstatě pořád stejní. Lidé dělají pořád stejné chyby. Lidská asertivita stále nezdravě přerůstá až do lidské arogance kdekoliv na světě. Zmíním toto specifické české téma v následujících článcích.

Nejdříve diskusní příspěvek k samo-řídícím automobilům

V jakém systému se pohybují se samo-řídící automobily? Jízda automobilu po dálnici (kam chodci či cyklisté nesmí) se blíží pohybu v uzavřeném (čili zjednodušeném) systému (se záměrně omezenou varietou chování). Nikoliv ale jízda automobilu ulicemi rušného města, nebo jízda v různou denní dobu (během dne, za šera nebo v noci), a také při změněném počasí. Ano, v takových situacích plně funkční lidská inteligence, vybavená postřehem a úsudkem opřeném o znalost reálného světa (ale někdy, bohužel, i narušená únavou či drogami), stále výrazně dominuje nad výkonem strojové inteligence.

Musíme tedy nutně počkat, až se současná AI (tj. dnes dominantní strojové učení, nebo snad i blízce budoucí hybridní přístup s klasickou symbolickou logikou) vyvine do úrovně lidské inteligence? Nebylo by škoda nevyužít dnes už dosažené úrovně AI při řízení automobilů? Inženýři totiž mohou nabídnout i další technologická vylepšení a záměrná omezení přílišné variability otevřeného dopravního systému. Například okraje silnic lze už dnes osadit levnými senzory a všechny automobily lze vybavit povinnými elektronickými hlásiči své polohy, jejichž vlny spolehlivě proniknou i mlhou. To by snad mělo dát stihnout do roku 2026, kdy prognóza předpokládá, že v USA se už průměrnému občanovi nevyplatí vlastnit svůj osobní automobil (ukládaný normálně 90% času do garáže). Ekonomicky výhodnější by v USA mělo být placení za poskytnutou dopravní službu samo-řídícími automobily.

V listopadu 2019 firma Tesla na svých automobilech preferovala dvěma kamerami simulovaný lidský zrak (se záběrem 360 stupňů), spíše než aby spoléhala na rotující radar (lidar) na střeše auta. Proč? To, co se mechanicky točí, může být méně spolehlivé, než kamerovou technologií napodobené lidské oko. Dnes ještě není jasné, zda budoucí dominantní design v tomto odvětví bude představovat řešení firmy Tesla, nebo konkurenční řešení s lidarem na střeše automobilu od firmy z Google (dnes Alphabet).

Měli by lidé sami vyjít vstříc nové technologii (pomocí své zvýšené dopravní gramotnosti)? Potřebné kulturní návyky lidí se samozřejmě mění až v delším časovém horizontu, ale od 20. století se v rozvinutém světě i děti přece povinně učí, že nesmí strkat prsty či hřebíky do nebezpečné elektrické zásuvky, aby je to nezabilo. Proč by ty stejné školní děti také nemohly být varovány i před pohybujícími se samo-řídícími automobily, případně být všechny povinně vybaveny nejen reflexivními nášivkami na oblecích, ale i chytrými telefony (které ty nezbedné děti mohou elektronicky v dopravním prostoru bezpečně lokalizovat a upozornit tak samo-řídící automobily na existující překážku)?

Ano, specializovaná AI se zatím musí hodně toho učit od inteligence lidské. To ale neznamená, že ve všech praktických aplikacích musíme čekat až na budoucí dosažení kýžené úrovně obecné umělé inteligence (AGI), která bude lépe rozumět našemu (lidskému) světu, což je časově vzdálenější horizont. Zůstává ale klíčový koncepční problém: Dlouhodobě je na českých silnicích ročně evidováno cca 600 usmrcených lidí. Otázka: Zavedeme technologii samo-řídících aut, už když počet mrtvých s jejím použitím poklesne na silnicích pod 600, nebo tu technologii zavedeme, až když počet mrtvých bude nula nebo blízko nuly? Jinými slovy: Budete vy lidé tolerovat smrt spíše od nedokonalé technologie, než od zfetovaného člověka-řidiče? Toto je vyloženě lidské dilema. Zatím nevyřešené.

Závěr

Dnes žijeme v technologicky intenzivní době. Technologii (nikoliv politologii) vidím i jako rozhodující faktor pro naši budoucnost. Předpokládám, že vliv technologie na lidskou společnost bude rychlejší a pádnější, než například nežádoucí průvodní dopady probíhající klimatické změny. Jako pozitivní se jeví fakt, že lidé dnes již alespoň dokáží technologii rychleji vstřebat do svého užívání, než tomu bylo v minulosti.

proč1

Zde je obrázek, jak se zrychlovala doba přijetí nových technologií lidmi (prvními 25 procenty americké populace). V grafu vidíte, jak se v historii postupně zkracovaly roky pro přijetí ve své době zcela nových technologií: elektřina, telefon, rádio, televize, osobní počítač, mobilní telefon, internet a chytrý telefon:

Je tedy reálné dnes uvažovat o přijetí další revoluční technologie, samo-řídících automobilů, v USA do roku 2026, tzn. alespoň pro prvních 25% americké populace?

----

Úvaha kanadského výzkumníka Joshua Bengio, až se počítače budou ptát „proč“, budou mnohem chytřejší, je opodstatněná, ale tím ještě nebude počítačově imitována celá (obecná) lidská inteligence.

Pokračování zítra.

CSd (celkem spokojený důchodce)

Kdysi jsem se jako podnikatel přiživoval výukou předmětu Inovace, toto téma mne ale zajímá celoživotně.



Rychlá zdravá svačinka? Hledáme 40 testerek, které vyzkouší Sunar BIO kapsičky
Rychlá zdravá svačinka? Hledáme 40 testerek, které vyzkouší Sunar BIO kapsičky

Ve spolupráci se Sunarem, tradičním českým výrobcem dětské výživy, jsme si pro vás připravili velké testování BIO kapsiček.






 Neviditelný pes
Toto je DENÍK: do sítě jde obvykle nejpozději do 8.00 hod. aktuálního dne. Pokud zaspím, opiji se, zešílím nebo se zastřelím, patřičně na to upozorním - neboť jen v takovém případě vyjde Pes jindy, eventuálně nikdy.
Šéfredaktor Ondřej Neff (nickname Aston), příspěvky laskavě posílejte na adresu redakce Jiřímu Wagnerovi, redaktorovi NP (nickname JAG). Rubriku Zvířetník vede Lika.