V době svého skutečně zasloužilého odpočinku je americký historik a politik Henry Kissinger (narozen 27. května 1923 v Německu) stále aktivním účastníkem „hry“ o naši budoucnost. Loni, v červnu 2018, vyšel v časopise The Atlantic pro americkou vládu burcující článek ohledně možných dopadů umělé inteligence (dále jen AI) na lidstvo, který autor Henry Kissinger nazval Jak končí doba Osvícení.

Henry Kissinger

Letos, v srpnu 2019, vyjde ve stejném časopise další článek H. Kissingera (tentokrát ve spoluautorství s bývalým výkonným ředitelem firmy Google a také ve spoluautorství s aktivním děkanem fakulty počítačových věd na MIT). Článek je pojmenován „Metamorfóza“ a má v podtitulku tento text: „AI přivodí mnohé zázraky. Může ale také vše destabilizovat: od nukleárního odstrašení, až po lidská přátelství. Musíme proto přemýšlet mnohem intenzivněji, jak se tomu přizpůsobíme.“

Z loňského samostatného článku Henry Kissingera „Jak končí doba Osvícení“ jsem pro Neviditelného psa vypíchl tuto pasáž:

Doba Osvícení začala v podstatě filozofickými vhledy rozšířenými novou technologií (tj. knihtiskem). Naše doba se ale vyvíjí opačný směrem. Vygenerovala dominující technologii (tj. AI) při hledání nějaké smysluplné filozofie (a guiding philosophy).

Z letošního kolektivního článku „Metamorfóza“ v časopise The Atlantic vybereme nejprve něco názorného o síle nové technologie, kterou je AI, a pak se zaměříme na zjevně politikem Kissingerem zpracovanou pasáž, tj. ohledně zvažovaného vlivu AI na strategii a bezpečnost (státu i lidstva).

Síla umělé inteligence (AI)

Sílu dnes dominujícího vývojového směru AI, tj. strojového učení, lze snad nejlépe demonstrovat na počítačovém programu AlphaZero při stolní hře šachy. Během cca 24 hodin (našeho lidského času) po zadání jen pravidel hry šachy (nikoliv již lidem známých herních strategií), se program AlphaZero stal absolutně nejlepším hráčem na celé zeměkouli. Jak? Tím, že AlphaZero hrál střídavě sám proti sobě, odehrál tak několikanásobně více šachových partií, než kolik člověk dokáže zahrát během celého svého života. Za dobu pouhých 24 hodin dokázal program AlphaZero odhalit herní strategie, které žádný šachový velmistr (člověk) dosud nikdy neodhalil. Takže dnes se šachoví velmistři již učí od AI. Možná jste si toho osobně ještě nevšimli, ale pozice učitele a studenta se v této hře již změnila. Definitivně.

Jako zajímavost, v letošním článku časopisu The Atlantic výslovně nezmíněnou, zde doplním, že hlavní tvůrce programu AlphaZero, dnes dvaačtyřicetiletý Demis Hassabis, byl ve svých 13 letech druhým nejlepším mladým hráčem světa. Teprve nedávno se Demis Hassabis stal mistrem světa v šachu: ale jen mistrem v zastoupení, nikoliv osobně. Zastoupil ho totiž právě program AlphaZero – ale zato jednou provždy. Od této doby už lidský mozek ve hře šachy nemá šanci proti AI nikdy zvítězit. Nikdy!

Samozřejmě že šachy jsou jen jakousi vymyšlenou hrou dle pevně daných pravidel, čímž prakticky prožitý lidský život určitě není. Lidský život je svými aktivitami určitě širší a bohatší. V obecném smyslu AI tedy dosud vláce této planety (homo sapiens) neporazila. AI porazila člověka jen v úzce specializované dovednosti. Těch vítězných dovedností pro AI existuje již sice více, ale jsou to stále jen specializované dovednosti.

Letošní článek „Metamorfóza“ v časopise The Atlantic pokračuje takto: AI není ani zlomyslná, ani laskavá. Současná AI nemá sebereflexi a sama si nestanoví žádné cíle. Bude-li se ale AI i nadále zlepšovat - a dosud neznáme důvod, proč by tomu tak nemělo být – bude mít AI na lidstvo transformativní dopad. Je to něco, co v historii lidstva nemá precedens.

Specifické vhledy a otázky Henry Kissingera

V době atomových zbraní se mocenská strategie států světa vyvíjela kolem konceptu vzájemného zastrašování (deterrence) a předpokladu, že žádný rozumný hráč přece neudělá tah, který by mohl vést k jeho vlastnímu zničení - v důsledku reálně proveditelné odvety protivníka na něčí agresi. Vyvinuly se proto složité monitorovací systémy pro posouzení vojenské síly protivníka tak, aby se odvrátila možnost katastrofického světového vývoje.

Jenže ta minulá účinná strategie a plánovací metody jsou dnes jen historií. Dnes už totiž žijeme v technologicky podstatně jiném světě. Technologie, jakou je AI ve vojenství, již narušila dohodnutá minulá pravidla mezi státy. Neprůhlednost a rychlost dnešního kybersvěta totiž vytváří pro stát prostor pro nalezení takové vojenské výhody, kdy náš protivník už nedostane příležitost zareagovat svou odvetou na naši eventuální agresi. To může být pro lidi toužící po moci, politiky, docela lákavé. (Připomenu zde, že právě proto V. Putin v září 2017 prohlásil, že kdo se stane vítězem v závodě o AI, stane se pánem světa. Připomenu také, že i čínská vláda v červenci 2017 vyhlásila program dosažení světového prvenství v AI do roku 2030.) Situace je tedy vážná a dokonce přelomová.

H. Kissinger v článku klade otázky: Zvýší, nebo naopak sníží dnešní neprůhlednost, tj. nemožnost posouzení skutečné vojenské síly protivníka, možnost budoucího konfliktu? A budou státy snad proto více tlačeny k preventivní vojenské akci? Vyvine se více internetů, nikoliv jen jeden celosvětový?

Dnes existuje silná potřeba vyvinout nové strategické koncepty pro vojenství, které jsou adekvátní pro současnou velmi pokročilou technologickou úroveň.

Ostatní

Je třeba urychleně domyslet nová pravidla i pro civilní použití AI.

V letošním článku „Metamorfóza“ časopisu The Atlantic jsem souhlasně pokyvoval nad mnohými předloženými návrhy. Zněly docela logicky a přijatelně. Zajímavá byla i otázka: Jak bychom měli reagovat na nevyhnutelný vývoj, který bude mít dopad na naše porozumění pravdě a realitě?

Jeden návrh odpovědi na položenou otázku mne ale zneklidnil. Dýchl na mne totiž středověkou inkvizicí: naprogramovat digitální asistenty tak, aby odmítli odpovídat na filozofické otázky, zejména ohledně hranic reality. Pro jistotu vám ten návrh zde napíši znovu v původním jazyce anglickém: programming digital assistants to refuse to answer philosophical questions, especially about the bounds of reality.

Budoucnost světa viděná autory článku tedy musí být skutečně vážná. Nejde jen o hru v šachy. Jde mnohem o víc. Firma Google je považována za nejpokročilejší firmu v oboru AI na světě. A hovoří-li v článku „Metamorfóza“ bývalý výkonný ředitel firmy Google, je třeba zpozornět. Určitě ví, o čem mluví.

Závěr

V dobách českého reálného socialismu se sarkasticky říkávalo, že vytrvalý muž neodchází do důchodu, pokud je stále ještě schopen „udržet moč a pero“. O dnešním zdravotním stavu Henryho Kissingera víme jen to, že se jeho tělo fyzicky pohybuje jen přízemně na vozíku. Jeho duše se ale (metaforicky řečeno) pohybuje stále hodně vysoko. A vězte, že tam nahoře myslí i za vás, kdo si už dnes snad plně užíváte onoho tzv. zaslouženého odpočinku.

Henry Kissinger není politik, který by toužil po moci za všech okolností. Je to morální člověk, který cítí zodpovědnost a má svědomí. Proč? Například za svou činnost amerického vládního sekretáře a národního bezpečnostního poradce (v době vlády amerických prezidentů Richarda Nixona a Geralda Forda) dostal v roce 1973 Nobelovu cenu míru za vyjednané příměří pro tehdejší válku ve Vietnamu. A tu obdrženou Nobelovu cenu se pak (ač neúspěšně) pokoušel sám vrátit, když jím dohodnuté vojenské příměří bylo později narušeno. Udělali by to snad i čeští politici?

Henry A. Kissinger, Eric Schmidt a Daniel Huttenlochter, tři američtí autoři článku „Metamorfóza“, který v srpnu 2019 vyjde v časopise The Atlantic, očekávají, že článek by se mohl stát odrazovým můstkem pro širší celospolečenskou diskuzi o významu vývoje AI pro lidskou civilizaci. Může taková diskuze zasáhnout i Česko? A to i přes vytrvale štěkajícího českého Neviditelného psa?

CSd (celkem spokojený důchodce)