V posledních týdnech nebylo snad novin nebo časopisu, kde by se nepsalo o projektech umělé inteligence.

Přičemž umělá inteligence (Artificial Intelligence), označovaná zkratkou AI, nebudí jen vizionářskou euforii, ale i chmury na čelech jejích stoupenců. „Když bude mít umělá inteligence nějaký cíl a lidstvo jí bude stát v cestě, prostě ho zničí. Je to stejné, jako když my, lidé, stavíme silnici a stojí nám v cestě mraveniště. Není to tak, že bychom mravence nenáviděli, ale stavíme prostě silnici. Takže: Sbohem mraveniště,“ prohlásil multimiliardář, vizionář a majitel Twitteru v jedné osobě Elon Musk.

Podobně o riziku umělé inteligence, která by nebyla naladěna na dobro lidstva, ale proti němu, mluví i Bill Gates, zakladatel společnosti Microsoft: „Může stroj dospět k závěru, že jej lidé ohrožují? Může vydedukovat, že jeho zájmy nejsou shodné se zájmy lidí? Nebo řekne, že jej lidé jednoduše nezajímají? Může se to stát. Ale vyřešení těchto otázek není dnes méně naléhavé, než tomu bylo před vývojem umělé inteligence,“ prohlásil Gates. Ovšem v případě AI nejde ani tak o katastrofické scénáře a netřeba hned spekulovat o tom, zda jednoho dne lidstvo umělá inteligence vyhubí. V současné době jde o to, jak lidstvo zvládá její vývoj.

A především o tom je otevřený dopis , publikovaný 22. března 2023 organizací Future of Life Institute. Ten podepsali, a stále ještě podepisují, nejrůznější osobnosti ze světa technologií a odborníků na umělou inteligenci, shodující se na tom, že „výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si jisti, že jejich účinky budou pozitivní a jejich rizika budou zvládnutelná.“ Přičemž seznam signatářů již přesáhl 30 000 podpisů, kdy všechny významné podpisy v horní části seznamu jsou nezávisle a přímo ověřeny.

Dokument také vyzývá k půlročnímu pozastavení vývoje pokročilé umělé inteligence na jednotlivých pracovištích, dokud nebudou vyvinuty, implementovány a nezávislými odborníky prověřeny související bezpečnostní protokoly. Kdy signatáři rovněž apelují na vývojáře, aby spolupracovali s regulačními orgány. Jinými slovy řečeno, lidstvo potřebuje čas se na příchod umělé inteligence připravit, což při současné dynamice jejího vývoje není možné. Ovšem řada skeptiků nepovažuje pozastavení vývoje za reálné. Neboť systém AI využívají a vyvíjí nejrůznější státy a nejrůznější nezávislá pracoviště včetně těch utajených, co spadají do kompetence vojenských a bezpečnostních složek.

Ale vraťme se k tomu, co se nás bezprostředně dotýká. Asi nejznámější projekt umělé inteligence, o kterém se u nás nejvíce píše, pochází z dílny firmy OpenAI, který funguje jako chatbot, tedy formou psaní a textových odpovědí, dokonce už v češtině. Jenže umělá inteligence nedokáže vygenerovat jenom umělý text, ale i umělý obraz a zvuk. Dokonce umí zfalšovat digitální záznam, kterému říkáme video. A možnost online si přehrávat videa se díky YouTube stalo neodmyslitelnou součástí celosvětové sítě. Dnes většina populace sleduje virální videa právě v této službě kdykoliv a kdekoliv.

A není tak bez zajímavosti, že Geoffrey Hinton, jeden z nejvýznamnějších odborníků v oblasti AI již přiznal, že lituje některých aspektů své práce. A oznámil, že po deseti letech odchází ze společnosti Google, která je, mimo jiné, i dnešním vlastníkem YouTube: „Odešel jsem, abych mohl mluvit o nebezpečí umělé inteligence, aniž bych bral v úvahu, jaký to má dopad na Google.“ A také vyjádřil bezprostřední obavy z toho, že internet bude zaplaven falešnými fotografiemi, videi a texty, což povede k tomu, že běžný člověk už nebude schopen rozpoznat, co je pravda.

V této souvislosti je třeba si zde připomenout amerického prezidenta Ronalda Reagana, který úřadoval v Bílém domě od roku 1981 do roku 1989. Jako bývalý rozhlasový komentátor a herec proslul i různými vtípky a sarkasmy. V roce 1984, když se chystal na svůj pravidelný rozhlasový projev a byl požádán, aby vyzkoušel mikrofon, Reagan náhle prohlásil: „Vážení spoluobčané, s radostí vám mohu oznámit, že jsem dnes podepsal zákonnou předlohu, která postaví Rusko navždy mimo zákon. Během pěti minut začínáme bombardovat.“ A mnohokrát se již psalo o tom, jak v tuto chvíli přítomným novinářům ztuhl úsměv na rtech a když nahrávka unikla na veřejnost, jak z toho běhal lidem mráz po zádech.

Ale takovéto výroky lze uměle dnes vytvářet ve formě tzv. deepfakes, které se objevily relativně nedávno. Konkrétně v prosinci 2017, kdy začalo na sociální síti Reddit kolovat zfalšované pornografické video. Samotný nástroj je znám jako FakeApp, ale videa se obvykle nazývají deepfakes, protože je tak začal označovat původní vývojář na Redditu. Deepfake je pojem odvozený z tzv. deep learningu (hlubokého učení, odvětví umělé inteligence) a slova fake (falešný). Jedná se o technologii, která využívá algoritmy strojového učení pro vkládání obličejů a hlasů do obrazových a zvukových záznamů skutečných lidí a umožňuje tak vytvářet dokonalou napodobeninu reality. A napodobeninou, vytvořenou za pomoci umělé inteligence, může být jak video, tak fotografie, nebo hlasová nahrávka. Vytvořit deepfakes přitom dnes není až tak komplikované, když je možné k tomu využívat různé aplikace. Jde jenom o to, jak přesvědčivá taková nahrávka může být. Zde např. video, na kterém prezident Obama pronáší slova, která ve skutečnosti nikdy nevyřkl.

Výtvory umělé inteligence, díky učení, nakonec mohou být tak dokonalé, že zcela ošálí lidské smysly. V současnosti jde o nejobávanější hrozbu, neboť zde přestává platit „co vidím na vlastní oči a slyším na vlastní uši, je pravda“. Jinak řečeno, deepfake videa jsou na vzestupu a potřebný software pro ty, kdo ho hodlají zneužít, je stále přístupnější. Kvalita deepfakes se bude jistě zvyšovat a lidé si v dohledné době budou muset zvykat na neustálé podezření, že na internetu jim předkládané informace, včetně záznamů televizního zpravodajství a projevů politiků, můžou být podvrhem. Ovšem spolu s tím, jak se bude kvalita deepfakes zvyšovat, se budou rozvíjet i techniky na jejich rozpoznávání.

Objevily se už první týmy expertů, které mají podezřelé zprávy analyzovat a ověřovat jejich obsah, tedy rozhodnout, zda jde o falešný, či originální záznam. Ovšem nespoléhají se při tom na svůj pomyslný zdravý či selský rozum, ale činí tak za pomoci technologií umělé inteligence.

A tak tu v případě hrozby nakonec jedna umělá inteligence bude stát proti druhé.