Neviditelný Pes

VĚDA: Lidská a „nelidská“ umělá inteligence (2)

27.2.2020

Lidská umělá inteligence (AI)

Může tzv. lidský přístup k AI pomoci člověkovi v jeho rozhodování? Člověk se lidsky rozhoduje podle toho, na kterou stranu převáží jím zvažované argumenty. Zda převáží „pro“ či „proti“, tzn., zda jsou plus či minus. Takže je potřeba ve vysoce výkonném počítači shromáždit větší počet argumentů, než kolik jich může shromáždit a použít omezený lidský mozek, a pak ho tato AI svým výkonem už také (mnohdy) dokáže překonat. AI tohoto druhu tedy vzniká dlouhodobým shromažďováním velkého množství (na médiích již prezentovaných) znalostí, přičemž nějaký znalý člověk napovídá AI v počítači, které ty znalosti jsou (nebo budou) pro budoucí lidské rozhodování důležité.

Nejprve uveďme příklad otázek (kvalitativního charakteru), které je třeba před rozhodnutím patřičně vyargumentovat: Měla by se po realizovaném Brexitu Velká Britanie zcela odstřihnout od EU? Měla by Austrálie přestat vyvážet fosilní paliva? Měla by aktivistka Greta být oceněna Nobelovou cenou?

A to lidské napovídání AI uložené v počítači může být na různé úrovni lidské kvalifikace.

Připomenu praktický význam i nízké úrovně kvalifikace. I v tzv. rozvojovém světě rozpoznají (dlouhou evolucí vyvinuté) lidské oči zatím spolehlivěji, než senzory a programy strojového učení, co je to silnice, příkop, či automobil. Proto pro aplikace budoucích samo-řídících automobilů si nápovědou počítačům s AI mohou (přes internet) přivydělávat i málo kvalifikovaní lidé, například ve Venezuele, která prožívá ekonomicky obtížné období. Pro kvalifikovanější aplikace (jaké připravuje například velká firma IBM ohledně diskuze a rozhodování) je ale potřeba už kvalifikovanější lidská nápověda. Tuto nápovědu dělají dobrovolníci.

Zajímavé je to, že za tu méně kvalifikovanou nápovědu je třeba vždy platit, zatímco tu kvalifikovanější nápovědu dělají lidé často bezplatně a dobrovolně.

Dvě poznámky:

1. Tzv. neviditelná ruka trhu se nechová vždy tak, jak předpokládají ekonomové. A současný ředitel Google, Sundar Pichai, se (v lednu 2020) vůbec nedomníval, že veřejností požadovanou kontrolu oboru AI by měly provádět jen tržní síly. Tzn., technologické firmy by neměly pouze vyprodukovat nějakou novou technologii a její praktické užití ponechat tržním silám. Výhradně taková kontrola užitečnosti silných technologií by pro lidstvo určitě nedopadla dobře.

2. Toto není vědecký článek specializovaný pro ekonomy. Pro laickou veřejnost zde záměrně používám působivější výraz „Neviditelná ruka trhu“, která nefunguje jen pozitivně, a tak, jak její funkci v roce 1776 popisoval Adam Smith. O českých ekonomech, myšlením v 19. století, občas sarkasticky prohlašuji, že v pokleku před ČNB v Praze vzývají Neviditelnou ruku trhu, což je pro laiky argumentačně působivější, než hovořit jen o abstraktních tržních silách. Je mi jasné, že přátele si z ekonomů tímto neudělám. Naštěstí si to dnes, jako CSd (vysvětlení zkratky viz níže), již mohu dovolit. (Mimochodem, český psychiatr Honzák vidí výhodu stáří v tom, že si prý může vesele zpívat a současně si přitom čistit zuby.)

Počítačové dolování argumentů a debatující umělá inteligence

Jak vznikl název s výrazem „dolování“? Podobně jako se postupy „nelidské“ AI opírají o tzv. dolování dat (tj. pročesávání velmi rozsáhlých datových souborů – anglicky: data mining), analogicky, i u lidské AI, byl zaveden pojem dolování argumentů (argument mining).

Počítačové dolování argumentů spočívá ve vytvoření specifických počítačových programů, které analyzují obrovský počet napsaných dokumentů a extrahují z nich (pro budoucí lidskou argumentaci) klíčové věty. Ty věty obsahují důkazy pro nebo proti tomu, o čem se diskutuje, nebo o co se v diskuzi vede spor. Takto se totiž rozhodují i lidé. Extrahované klíčové věty se pak sestaví do prakticky v diskuzi použitelných argumentů. (Originální text: Argument mining involves building software to analyze written documents and extract key sentences that provide evidence for or against a given claim. These can then be assembled into an argument.)

Poznámka: Český rektor Zima se koncem ledna 2020 rozčiloval, jak je možné, že v dnešní době, tj. době 4. Průmyslové revoluce, se v Česku vůbec diskutuje, zda má být povinná maturita z matematiky. Já bych doplnil, že v nějakém maturitním předmětu by se kromě matematiky mělo vyučovat i tzv. dolování argumentů a jejich diskusní využití, čili tzv. kritické myšlení. Občané 21. století by pak mohli být schopni provádět kvalifikovanější rozhodnutí. A po získání minimálního nepodmíněného příjmu (v USA snad již ve 30. letech 21. století) budou občané mít více času na zvyšování své občanské kvalifikace. Toto je pozitivní potenciál, realita může být ale jiná.

Tzv. debatující umělá inteligence, od firmy IBM (IBM’s debating AI), se již dostala do pokročilé vývojové fáze, která pro člověka dnes již začíná být užitečná. Nějaký čas to ale trvalo. Vývojářský tým projektu „Project Debater“ ve firmě IBM během několika let pročesal 400 000 článků, které obsahovaly 10 miliard vět. Výsledný produkt firmy IBM by měl být pro firmy a vlády dostupný v klaudové podobě a měli by jí být vybaveni i všichni tzv. počítačoví asistenti (což je software (možná ve vašem mobilním telefonu), nikoliv živí lidé!). Citace ze zdroje: A technique called argument mining lets machines comb through huge data sets to help us make decisions. It could supercharge voice assistants.

Specifika lidského dolování argumentů pro diskuzi

Jako příklad si zde dovolím uvést protiargument k mému sdělení v diskuzi na Neviditelném psovi. Jak k tomu došlo? Připomeňme, že na závěr proslovu se pro zdůraznění obvykle pronáší nějaká posilující zdravice. Obdobně, i já jsem svoji diskusní argumentaci ukončil větou „Nová doba žádá nové činy“. Sama o sobě je ta věta určitě obsahově (sémanticky) neutrální a nezpochybnitelně pravdivá, protože odráží lidskou realitu. Nicméně od diskutujícího nicku Z. Lapil jsem obdržel jeho (silný) protiargument: „Nová doba žádá nové činy? To říkal už Stalin a Gottwald, a jak to dopadlo….“

Zamýšlím se, zda i tento lidský povrchní způsob dolování diskusních argumentů bychom měli předávat umělé inteligenci, jako něco užitečného pro naši budoucnost.

Spíše lingvistická poznámka

Americký technologický kapitalista, vystudovaný lékař Peter Diamandis, když hovoří o naší (zatím úředně nepojmenované) budoucnosti, hovoří o tzv. technologickém socialismu, což velmi dráždí dnešní české pamětníky, kteří nemohou překonat odpor k výrazu „socialismus“, se kterým mají spojenu svou špatnou životní zkušenost. Jejich vidění světa (jejich model světa v jejich mozku) se brání tento výraz pozitivně přijmout. Američan Petr Diamandis ale v minulém reálném socialismu nikdy nežil.

Peter Diamandis (dne 2. února 2020) v závorce za výrazem upřesňoval, že svým termínem technologický socialismus myslí situaci, kdy pokročilá technologie bude pečovat o naše lidské potřeby (Konkrétně Diamandis tam uvedl: ‘technological socialism’ (where technology is taking care of our needs)). Neutrálnějším výrazem by v takové situaci asi mohl být termín post-kapitalismus. V každém případě model okolního světa v hlavách českých diskutérů (vytvořený v průběhu jejich minulého života) ovlivňuje i úroveň dnešní diskuze – do které se v dohledné budoucnosti začne navíc plést i debatující umělá inteligence (AI), lidského typu.

Z věcného hlediska je úsměvná i nedávná argumentace několika vědců ohledně loňského vyjádření firmy Google, že tato firma dosáhla v technologickém vývoji úroveň kvantové nadřazenosti (quantum supremacy). To je prý eticky nevhodný termín. Eticky vhodnější by prý bylo hovořit o kvantové výhodě (a quantum advantage). Na dnes již faktickém velkém technologickém náskoku firmy Google tato diskuze ale nic podstatného nemění, ať ho pojmenujeme jakkoliv.

Zaujatá (anglicky „biased“) může být i „nelidská“ umělá inteligence, pokud je (jako výpočetní statistika) vytrénovaná na netypickém vzorku chování pro budoucí praktické AI užití.

Místo závěru: Výhled

Umělá inteligence (AI) by prý pro 21. století měla být tím, čím byla elektřina pro 19. století.

Četné inovace v 19. století probíhaly podle následujícího vzorce: vezmi stávající technologii, k ní přidej elektřinu - a dojde k inovaci. Tzn., například: vezmi vrták, přidej elektřinu - a vznikne elektrická vrtačka. Nebo, vezmi valchu na ruční praní prádla, přidej elektřinu - a vznikne elektrická pračka.

Podle podobného vzorce, ve 21. století, by mělo dojít k následujícímu: Vezmi existující nástroj, přidej inteligentní vrstvu - a dojde k inovaci. Tzn. například: vezmi telefon, přidej inteligentní vrstvu - a vznikne chytrý telefon. Nebo, vezmi automobil, přidej inteligentní vrstvu - a vznikne samo-řídící automobil.

Toto inovační schéma není vyčerpávající. Nicméně je relevantní jak pro lidský, tak i „nelidský“ směr AI, tj. strojové učení, tak i symbolickou logiku (= lidský směr AI).

Výhled do budoucnosti. Názor českého čtenáře, v diskuzi o budoucích společenských dopadech (hlavně ohledně zavedení minimálního nepodmíněného příjmu) z technologického rozvoje (tzn. především AI a dalších revolučních/rozvratných technologií), byl na diskusním fóru Neviditelného psa následující: „Prosím vás, jak takové blbosti můžete věřit?“ Budete se možná divit, ale věřím. Nikoliv ale na 100%, jen na cca 86%, což je obvyklá úspěšnost Kurzweilových předpovědí. Pracuji s tou informací tedy podobně, jako to dělá „nelidská“ umělá inteligence, tzv. výpočetní statistika.

Minulost. Připomeňme, že významná technologická změna byla jen tou dobře viditelnou částí velké změny, která proběhla během Průmyslové revoluce. Co to je?

Wikipedie: Průmyslová revoluce byla postupná změna ve velkém období od 18. do 19. století, kdy se zásadně proměnilo zemědělství, výroba, těžba, doprava a další hospodářské sektory. Do té doby hospodářství dominovalo zemědělství. …

Wikipedia: Industrial Revolution, was the transition to new manufacturing processes in Europe and the United States, in the period from about 1760 to sometime between 1820 and 1840. …

Historici stále ještě nedostatečně objasnili tu méně viditelnou (ale pro praktickou realizaci podstatnou) část změny, která proběhla v lidském mozku. Totiž, proč lidé tehdy odvrhli poslušnost vládnoucím mocenským strukturám (feudálním panovníkům a šlechtě) a z tehdejších „aktivistů“ vznikla nová mocenská vrstva produktivních podnikatelů a inovátorů. A veškerý tento pohyb celkově vyústil do velké společenské změny, kterou dnes označujeme jako kapitalismus.

Proč si ale lidé v 18. a 19. století začali více věřit a patřičně jednat? Tehdy proběhla nám dosud málo známá a historiky nedostatečně zmapovaná změna stavu lidské mysli (mindset). Na tomto málo probádaném tématu by měli historici ještě popracovat.

A co dnes?

Kromě objevu nových technologií (vedoucích k budoucí tzv. Technologické Singularitě) i v dnešní době bude potřeba odhodlaného stavu lidské mysli pro praktické provedení oné velké, žádoucí změny. Povzbuďme je: Dokážeme to! (Anglicky: „We Can Make it!”, nebo „We Can Do It!”)

Autor před 30 lety pracoval na aplikaci české lidské AI (systém OLS) v anti-inovačním prostředí českého ekonomického výzkumu.

KONEC



zpět na článek