Možná se mi to dokonce jenom zdálo nebo jsem to jenom špatně slyšel: v rozhlase na BBC nějaký pán vykládal o projektu vědeckého městečka, které se staví někde v poušti Nového Mexika. Má být hotovo v roce 2019 a mají se v něm zkoušet robotické systémy a systémy M2M. To jsou „machine to machine“ komunikační systémy a to je pojem, který se mi moc líbí. Psal jsem ve svých povídkách o tajném jazyce robotů, o jakési metakomunikaci, která se dotýká intimních koutků našeho života, avšak všechno to zůstane jenom mezi stroji a do lidského světa nepronikne ani jediný bit informace.

Ono to tak už do značné míry je. Nikdo o mně nemá tak dokonalý přehled jako ten počítačový systém napojený na mé platební karty. Jsi takový, co nakupuješ, a to je hledisko. Kde to jde, nakupuju přes platební karty, protože jsem lakomec a bolí mě vydávání peněz z ruky. Když platím kartou, stísňující pocit kolem srdce se nedostavuje a dokonce když platím bezkontaktní kartou do limitu pětistovky, a nemusím tudíž vyťukávat žádný pin, srdce lakomcovo pookřívá falešnou představou, že nakoupil zadarmo. Ale i v tomto případě, srdce nesrdce, systém ví, co jsem zač. Ví to a nepoví to.

Mašiny si mezi sebou povídají a jestli jsem to poslouchal správně, v podzemním městě v Novém Mexiku se budou učit povídat si ještě výmluvněji a efektivněji. A hlavně, bude to pod zemí, nikoho to nebude rušit a nedojde ke kolizi se zákony.

O tom se taky zmínil ten pán v pořadu BBC. Ony ty robotické systémy fungují v lidském světě sešněrovaném zákonnými vazbami. Háček je v tom, že zákony jsou šité na lidi a od strojů čekáme, že je mají lidé pod kontrolou a odpovídají za jejich provoz. Zastavte auto na kopečku, špatně zatáhněte ruční a ono se po chvilce samo rozjede a sousedovi vybourá plot. Soused se nebude hojit na vašem autě, ani na jeho výrobci, pustí se do vás a vy plot zaplatíte. To je jasné. Méně je jasné, kdo bude odpovídat za bouračku samostatných robotických systémů, momentálně fungujících jako automobil. Měly se mezi sebou domluvit svým metajazykem robotů a z nějakých důvodů to neudělaly. Kdo ponese vinu?

Současní výrobci softwaru v tomto ohledu mají jasno. Před každou instalací zákazník mechanicky a trpně odsouhlasí dlouhatánský text sepsaný tlupou mazaných právníků, v němž se původce softwaru zříká odpovědnosti za cokoli, co mrzutého jeho výrobek spáchá. Necháváme si to líbit. Až se roboti budou motat mezi námi, otázka odpovědnosti vyvstane jako ohnivý nápis na stěně paláce.

Onehdy mi robotický zametač vyběhl z baráku a smetal hlínu na záhonku s růžemi. Kdyby vyběhl až na ulici a někdo se o něj přerazil, odpovědnost bezpochyby ponesu já. Ale tak to nebude vždycky. Stroje toho budou umět víc, než samostatně zametat drobečky v kuchyni.

Možná se dočkáme doby, kdy soudní řízení bude vedeno proti robotovi s umělou inteligencí a jeho obhájce bude počítač.

Možná je ta doba blíž, než si myslím. Možná že už je zahrabaná v suterénu podzemního města, které se staví v poušti v Novém Mexiku.

LN, 12.10.2015