Po třech letech práce v AI společnosti Anthropic dal výzkumník Jacob Coxton výpověď. A pořádně za sebou práskl dveřmi. Roztroubil do světa úžasnou novinu, že AI bude znamenat zkázu lidstva do konce desetiletí (za čtyři roky, pokud počítám správně), a že firmy jako Anthropic hazardují s našimi životy. U firmy museli mít z něho radost, protože se chystají jít zrovna na burzu. Co je to za člověka, nevím. Studoval na Cambridgi, a bohužel je tato pečeť kvality značně poznamenaná ideologickými drápanci.

Coxton není sám, takových varování se ozývá všude plno. Jakmile se objeví nějaká novinka, hned se kolem ní vztyčí plot z varovných prstů. Sleduju to dlouhodobě a píšu už třicet let seriál článků a postřehů nazvaný Zakázané technologie. K vidění jsou na mém webu Digineff. Jsou to malé sci-fi postřehy, jde o fiktivní vynálezy. Ale samotný princip „zakázaných technologií‟ není žádná fikce. Uvedu pár konkrétních příkladů.

Velkou obětí tohoto principu je jaderná energetika. Úplně zakázat se ji nepodařilo, ale je tak přidušená, že sotva dýchá. Klečí na ní pyramida takových Coxtonů. Jeden z argumentů zní, že „je moc drahá‟. Bodejť by nebyla nákladná, když je svázaná do kozelce! Energetika jaderné fúze? Taky není „zakázaná‟, ale… prostě není. Protože nemá volný prostor k rozvoji.

Kosmonautiku se nepodařilo zakázat, protože ji mají pod palcem vojáci, ale co šlo naprosto do kytek, je nadzvukové dopravní letectví. Na odstřel je genetické inženýrství. Na něm se Coxtonové vyřádili. Taky není „zakázané‟, ale pokud jde o volnost dýchání, je na tom asi tak jako jaderná energetika.

Takříkajíc na tapetě je tedy umělá inteligence. Evropa je zřejmě ze hry venku. Staráme se o záchranu planety a chráníme kohokoli před čímkoli, takže se nedivme, že regulace jsou to jediné, čím Evropa k rozvoji AI přispěla. Co nám AI provede? Zabije nás, jak ujišťuje Coxton?

Možná ano, možná ne. Spíš si myslím, že ne. Jisté je, že čert je z pytle venku a do pytle ho nikdo už nevrátí. Z Evropy můžeme jen přihlížet dalšímu vývoji. V Americe hnutí za zákaz AI utěšeně roste a počkejme si, jak to tam dopadne. Myslim, že dobře, ale kdo ví. V Pekingu z toho jistě mají velikou radost.

Naivní optimismus ale určitě není na místě. Jen se podívejte, jakou politickou paseku nadělal internet. Před třiceti lety nikdo nepředpokládal, že internet dá hlas a politickou váhu idiotům. Co zlého provede umělá inteligence?

Jistě taky něco, co si dnes nedovedeme představit. Ale určitě to, co si představit umíme. Stane se nástrojem dozoru a buzerace čínského stylu. Budeme chodit jen připaženi a hovořit těmi správnými slovy. Na to vemte jed.

Už se na tom pracuje.