V USA na delší dálnici přelezl řidič automobilu Tesla na sedadlo spolujezdce, aby se tam pohodlněji vyspal během jízdy v režimu autopilot (tzn. kdy automobil ovládaly senzory a algoritmy počítače pro samostatné řízení automobilu). Řidiče ale uviděla policejní kamera, policisté auto zastavili a řidič musel zaplatit pokutu za ohrožování ostatních, ačkoliv se žádná automobilová nehoda fakticky nestala.

Inteligence k řízení automobilu po dálnici není třeba až tak vysoká. Je to docela rutinní záležitost. Velmi důležitá je ale spolehlivost a schopnost nenechat se rozptylovat za volantem. V těchto parametrech samořídící automobily už dnes mohou slušně konkurovat člověku-řidiči. Samořídící automobily nepožívají alkohol ani jiné drogy a také se nenechají rozčílit podrážděnou (menstruující) manželkou na sedadle spolujezdce. Připomeňme, že lidé-řidiči způsobí v Česku ročně cca 600 smrtelných dopravních nehod na všech možných silnicích dohromady. Preferujete tedy možnost svého zabití od zfetovaného člověka-řidiče, před neúmyslným zabitím od samořídícího automobilu?

Největší slabina samořídících automobilů se projeví při jejich průjezdu pěší zónou. Algoritmy počítače samořídícího automobilu totiž dosud nemají schopnost empatie, nemají sociální inteligenci. Model okolního světa zkonstruovaný programy strojového učení (tzv. hlubokého učení) jsou jakási čísla, která si program do počítače uložil v procesu svého učení pomocí statistických metod. Lidský model okolního světa je určitě jiný, i když do úrovně funkce neuronů v lidském mozku zatím, bohužel, nevidíme. Víme ale, že lidé své znalosti běžně vyjadřují v pojmech, které počítače a algoritmy strojového učení zatím nemají. Takže například chybně použitý přechodník v návrhu českého zákona nemůže inteligenci samořídícího automobilu uvést do stavu veselí, jak k tomu nedávno došlo v českém parlamentu.

Při průjezdu pěší zónou člověk-řidič poměrně snadno odhadne, že člověk, který stojí na chodníku a čte si noviny, pravděpodobně do jízdní dráhy automobilu nevběhne. Jsou-li ale na chodníku děti nebo vrávorající osoba, každý řidič si ihned uvědomí, že v takové situaci musí zpomalit. Dopravní situace by se mohla vyvinout nebezpečně. Empatie člověka řidiče zvyšuje bezpečnost provozu v pěší zóně.

Kdy samořídící automobily zavést do plného provozu a při jakých zabezpečovacích opatřeních?

Pomůže nějaká analogie z historie?

Když byla v minulosti zaváděna elektřina, docházelo také k úrazům elektrickým proudem. Vznikly například zásuvky elektrického proudu, do jejichž dírek byli občané instruováni své prsty nestrkat.

Nebezpečí střídavého proudu záměrně zvětšoval i legendární inovátor Thomas Alva Edison. Proč? Sám totiž předtím vsadil na stejnosměrný proud, ale chorvatský vynálezce Nikola Tesla později vynalezl střídavý proud, který se ukázal jako užitečnější pro praktické použití. Ve spojení s investorem Westinghousem konkuroval Tesla Edisonovi v podnikatelském byznysu velmi nepříjemně. Edison se tedy uchýlil k zastrašování potenciálních Teslových zákazníků. Jak? Na veřejnosti nechal střídavým proudem a vysokým napětím zabít starého cirkusového slona. Střídavý elektrický proud byl ale přesto do praktického použití zaveden a stal se z něj (ve své době) dominantní design pro elektrická vedení a elektrické přístroje. Legendární inovátor Edison dosáhl tak jen jakéhosi zpoždění v zavádění nové technologie. I inovátor v roli byznysmena se tedy může postavit proti technologickému pokroku.

Poznámka: Tento článek píši při využití baterií svého osobního počítače, protože v naší ulici se právě opravuje transformátor elektrického vedení. Nefunguje mi proto varná konvice, mikrovlnná trouba, osvětlení, ani internet. Dovedete si představit (kdybych snad měl schopnost cestování v čase), jak bych tuto otravnou situaci asi vysvětloval lidem z doby před praktickým využitím elektrické energie? V roce 1992 jsem v USA vysvětloval inteligentnímu obchodníkovi náboženské sekty Amish, že jsem v kontaktu se svou rodinou v Evropě pomocí internetu. Byl to velmi zdvořilý rozhovor, on mi ale nerozuměl. Nevěděl totiž, o čem mluvím. Naše báze znalostí, ač zřejmě velmi podobně v našich mozcích strukturované, měly odlišný obsah.

Kdy tedy samořídící automobily zavést do plného provozu?

Obecná odpověď je celkem jasná: Bez podstoupení určitého rizika to nebude možné nikdy, podobně jako bez podstoupení rozumného rizika lidé asi nikdy nepřistanou na Marsu. Před pár dny jsem sledoval video ze Světového ekonomického fóra ve švýcarském Davosu. Současná ředitelka IMF Christine Lagarde tam zdůrazňovala potřebu podstupovat nízká rizika (která se v současné světové ekonomice teď právě vynořují, a zpomalují tak odhadovaná tempa růstu světové ekonomiky). Lagarde v analogii (vhodné právě pro lyžařské středisko Davos) upozorňovala, že ona preferuje lyžování na běžkách v předem vyběhaných stopách, ale není prý vůbec dobrá v lyžování na strmé sjezdovce. Nicméně rychlý technologický vývoj posouvá lidstvo právě k oné „strmé sjezdovce“. A protože svět není centrálně řízen, nemůžete očekávat, že všichni budou jezdit jen na běžkách a bezpečně ve vyježděné stopě.

Kdy počítačová inteligence dosáhne lidské úrovně? Je to principiálně vůbec možné a žádoucí?

Principiálně toto nebude možné pouze při použití (v současné době dominantního směru vývoje umělé inteligence) programů strojového učení. Ty nestačí. Programy strojového učení jsou vynikající a ve spojení s brutálním počítačovým výkonem (natož pak s budoucími kvantovými počítači) dokáží už dělat to, co laici zařazují do kategorie zázraků. K tomu je ale potřeba hodně relevantních dat, na kterých se ten technologický „zázrak“ programy naučí. Nicméně data z lidské evoluce (pro algoritmy strojového učení) evidentně chybějí. My sice dnes už jakž takž známe výsledek evoluce, člověka (homo sapiens), ale neznáme přesně, jakým evolučním procesem se člověk do toho současného stavu dostal. Neznáme ten proces dostatečně detailně, aby programy strojového učení mohly proběhnout celou evoluci a na konci svého procesu nám „vyplivnout“ nějakého umělého člověka. Určitě se ale budou hledat cestičky, jak ten problém chybějících dat v rozumné míře obejít. To patří k přirozenosti lidské inteligence.

Je dosažení lidské úrovně inteligence strojem vůbec žádoucí? Pokud se bojíte konkurence, pak vaše odpověď bude určitě záporná. Ale vězte, že i při mnohem nižší inteligenci, ve vhodně zorganizovaném prostředí, mohou dnešní inteligentní stroje člověku hodně pomoci. Například právě v oblasti dopravy s využitím samořídících automobilů. Možných aplikací umělé inteligence se rýsuje velké množství (s různým stupněm nebezpečnosti a rizika), ale se samořídícími automobily se asi potká úplně každý dnes žijící člověk. Nejisté je pouze kdy a v jaké míře.

Kdysi jsem se přiživoval výukou předmětu Inovace, toto téma mne ale zajímá celoživotně.

Nyní CSd (celkem spokojený důchodce)