Bylo nebylo. To druhé je správně. Přesto se to, co nebylo, nejednou těší mimořádné životnosti. Třeba legenda o pražském rabínu Löwovi, jenž měl zhotovit z hlíny golema, bytost, která poslouchala jeho příkazy a prováděla je. Také víme, že jednou, odcházeje do synagogy, zapomněl golema „vypnout“ a ten začal všechno ničit. Rabi se musel vrátit a vyjmout z něj šém, snad pergamen s tajemným slovem. Golem tím skončil. Podle jiné, polské legendy, jakýsi rabín rovněž vyrobil z hlíny golema, ale ten začal růst. To bylo hrozivé, rabín si nebezpečí uvědomil, ale umělá bytost už byla větší než on. Nařídil jí proto, aby mu rozvázala tkaničky u bot, takže obr se musel sehnout. V tu chvíli mu rabi vyňal šém (snad z čela) a gigant se změnil v hromadu hlíny, která rabína zavalila a usmrtila.

Dnes nepoužíváme hlínu, ale úplně jiné materiály – a výsledkem jsou stále dokonalejší roboti. Třeba ten, který nedávno začal vyhrávat v pokeru. Není pak divu, že se stále víc hovoří a píše o umělé inteligenci – o systémech, které by svou dokonalostí soupeřily s člověkem či ho i překonávaly. Podle jedněch něco takového nepředstavuje žádnou hrozbu, druzí se naopak obávají už teď. Zatím nevíme, kdo má pravdu; nemilé je, že se to pozná, teprve až bude dostatečně dokonalá umělá inteligence na světě.

„Vývoj dokonalé umělé inteligence by mohl znamenat konec lidské rasy,“ soudí Stephen Hawking. A do nemalé míry mu přizvukuje i počítačový odborník Eliezer Yudkowsky, podle kterého je možné postavit jakýsi supermozek, který by byl až milionkrát rychlejší, než je ten lidský. Jinými slovy: to, nad čím náš mozek přemýšlí rok, by takový stroj dokázal za jedenatřicet sekund. Tisíciletí lidského uvažování by zvládl za osm a půl hodiny, protože „umělá inteligence pracuje v jiné časové stupnici, že vy v okamžiku, kdy vaše neurony ukončí přemýšlení slovy ,měl bych něco udělat‘, jste už prohráli,“ říká Yudkowsky. Tedy žádný optimismus.

Ten však chovají jiní vědci. Anglický matematik a informatik Alan Winfield zastává názor, že to všechno platí jen za podmínky „kdyby“. Takže: kdyby se vůbec povedlo něco takového sestrojit a kdyby stroj vybavený umělou inteligencí opravdu zcela pochopil, jak to všechno funguje, a kdyby se dokázal sám zdokonalovat... A tak dále, samá „kdyby“. Nakonec tedy, kdyby náhodou začal jednat škodlivě, nebezpečně a kdybychom ho nedokázali vypnout, pak –uzavírá vědec – „bychom opravdu měli problém“. Soudí však, že takové riziko sice není nemožné, ale je nepravděpodobné.

Na to vypínání v případě hrozby navazuje výkonný ředitel Googlu Eric Schmidt: „Nemyslíte, že by lidé zaznamenali, že se něco takového děje? A myslíte, že by se nepustili do vypínání těchto počítačů?“ Proto by podle něj měla mít umělá inteligence „velký červený knoflík“, aby se dala vypnout. Včas.

Ale kdy je „včas“? Vraťme se do legend. Zdá se, že Rabi Löw použil červený knoflík včas. Jeho polský kolega se se už ale opozdil.

Autor je fyzikální chemik

LN, 8.4.2017