Grafická aplikace FaceApp vstoupila na scénu v roce 2017. Po dvou letech o ní všichni mluví, ve 154 zemích ze 155 je to nejstahovanější aplikace, a to jak pro platformu iOS, tak pro Android. V období od 9. do 19. července vydělala milion dolarů svému původci, ruskému programátorovi Jaroslavu Gončarovovi. Důvod celosvětového fenomenálního úspěchu? Vypukl skandál.

Tedy, pro upřesnění. Kolem aplikace FaceApp byly dva rozruchy, jeden s přídechem skandálu. Od samého začátku šlo o hříčku, o aplikaci určenou k zábavě. Svým mobilem zpracujete lidskou tvář, ať už svoji, pořízenou jako selfie, nebo kohokoli jiného nebo staženou z internetu. Vzpomeňme na Multi Face, Face Craft, Face Swap, Face Blend, Face Fusion. Je jich spousta. Obvykle k nim přijdete tak, že si s někým povídáte, a jak je dnes zvykem, děláte to s mobilem v ruce, on vám to ukáže, vy si to nainstalujete a pak smažete.

Obličej k výměně

Stejnému osudu jistě byla předurčena Gončarovova FaceApp. Princip je stejný, jde o takzvaný morfing či prolínání. Program analyzuje tvář, vytvoří na ní síť referenčních bodů (rozmístění a tvar očí, nosu, rtů, obrysů tváře) a totéž provede s jinou tváří. V dalším kroku obě sítě na sebe nasadí a uzpůsobí a když se to povede dobře, zachovají se charakteristické rysy obou. Takhle fungují aplikace typu Face Swap. Vyměníte si obličej s kamarádem, komický efekt se zvětší, pokud jde o opačné pohlaví, a kulminuje, když si prolnete obličej se svým psem. Než přišel FaceApp, nejpopulárnější byla aplikace s nepříliš podbízivým názvem MSQRD, která nabízela třináct obličejů k výměně, mimořádně velký zájem byl o tvář prezidenta Obamy.

Gončarovova FaceApp byla jen další „appkou“ v řadě. Upozornila na sebe už ve zmíněném roce 2017, když nabízela možnost proměnit rasovou příslušnost. V několika vteřinách vás změnila v černocha nebo Číňana. Před pěti, no, určitě před deseti lety by to byl zdroj veselí, nyní je to kriminální čin. Na Gončarovova se všichni sesypali a marně se bránil, že filtry jsou seřazené náhodně, aby nedávaly žádné rase přednost a že „neobsahují žádnou pozitivní ani negativní konotaci“. Filtry zkrátka musely z „appky“ zmizet a na dlouhé dva roky byl klid.

Data pro cizí mocnost

Druhý rozruch vyvolal americký senátor Chuck Schumer, když dal FBI podnět, aby vyšetřila FaceApp a jejího původce. Vadí mu, že Gončarov je Rus a jeho firma Wireless Lab sídlí v Petrohradě. Senátor shledává „hluboce znepokojujícím“, že osobní data občanů Spojených států se odesílají „nepřátelské cizí mocnosti“.

Na Twitteru to senátor nastínil jasně: FBI a Federal Trade Commission se musí FaceApp zabývat, protože ji používají miliony Američanů, patří firmě usazené v Rusku a po uživatelích se žádá „plný a neodvolatelný přístup k jejich osobním fotografiím a datům“. Chuck Schumer je vůdce demokratické menšiny v Senátu a jeho slova tedy mají velkou váhu. Vytáhl do boje proti aplikaci, kterou aktuálně používá 80 milionů lidí na celém světě.

Senátor ve svém podání, jak je zveřejnil jako faksimile na Twitteru, výslovně uvádí, že aplikace vyžaduje přístup k fotografiím a datům uživatele a dále že uživatel musí souhlasit s tím, že obrázky budou použity nebo publikovány včetně jména uživatele i s jeho pravým jménem, aniž by ho o tom firma informovala nebo mu poskytla náhradu. Podání končí konstatováním, že v době, kdy se technologie rozpoznávání tváře používá k dohledu a bezpečnostním účelům, je důležité umožnit uživatelům uchovávat jejich osobní a biometrická data v bezpečí, mimo dosah nepřátelských cizích národů.

Není pochyb o tom, že jde o analýzu biometrických údajů, na nich je každá grafická aplikace tohoto druhu založena. Gončarov se brání, že data nejsou uložena v Rusku, nýbrž na najatých serverech Amazonu v Americe a jsou mazána po 48 hodinách.

Mrazivý efekt

Následovala prohlášení bezpečnostních expertů, o případu informovala média na celém světě a došlo k efektu názorně popsaném ve filmu Obecná škola, kdy žáci přimrzli k železnému zábradlí hned poté, kdy je školní rozhlas varoval, aby v mraze neolizovali železo. Případ se dále zkomplikoval tím, že se na Gončarovově obchodním modelu začali přiživovat podvodníci.

Sama aplikace FaceApp je stažitelná zdarma, ovšem s omezeným počtem filtrů. Můžete si nasadit úsměv, proměnit se na opačné pohlaví, změnit barvu vlasů. Nejpopulárnější se stal filtr „Věk“. Aplikace vygeneruje nechutně věrohodný obraz, jak budete vypadat za dvacet let a opravdu je těžké si představit, že by někdo vypadal líp. Výsledky jsou velmi kvalitní a to je zřejmě důvod, proč morfing nedělá samotný mobil, ale proč se posílá na vzdálený počítač. Přece jenom jsou ty grafické operace složité, aby vypadaly kvalitně.

Pokud chcete mít ještě více zábavy, musíte zaplatit. A to je ten obchodní model. V obou případech, jak model firmy, tak model podvodníků. Pokud jdete oficiální cestou, zaplatíte a možnosti FaceApp rozšíříte. Pokud chcete něco typu „výhodně a zlevněno a masakr cen“, vyfasujete zavirovanou napodobeninu.

Oficiální vysvětlení je tedy do rozumné míry věrohodné a také experti potvrdili, že odesílaná data neputují do Ruska, nýbrž do Ameriky. Nějak ale chybí vysvětlení, co se s daty děje těch dalších osmačtyřicet hodin, protože samo zpracování fotografie je velmi rychlé. Na tuto otázku Jaroslav Gončarov zatím neodpověděl.

Můžeme nad tím vším pokrčit rameny jako nad prkotinou, která se skvěle hodí do okurkové sezony. Nicméně s touto miniaférou jsou spojeny dva závažné problémy. Jednak je to problematika soukromí ve věku celosvětové informační sítě, jednak je to manipulace s obrazovými daty, posílená umělou inteligencí.

Bezpečí na síti

Senátor Schumer právem poukazuje na to, že občané posílají kamsi svoje data, aniž by měli možnost jakkoli ovlivnit, co se s nimi děje. FaceApp v tomto ohledu není žádná výjimka. Především je to Facebook, který výslovně žádá od svých uživatelů předběžný souhlas s užitím vloženého textového, obrazového, zvukového a filmového materiálů. Když s tím Facebook přišel, vyvolalo to nevoli. Ta ovšem utichla poté, co se ukázalo, že existuje jen jeden jednoduchý způsob, jak zneužití zabránit. Prostě Facebook nepoužívat, což je cesta, kterou se vydal autor těchto řádků, ale také Steve Wozniak, spoluzakladatel firmy Apple. Ten výslovně varuje před užíváním Facebooku, Instagramu a podobných aplikací. O FaceApp se nezmínil, ale je jasné, že patří do stejného pytle. Budoucnost vidí chmurně. Vědí o vás všechno, laserem vám mohou odposlouchávat tlukot srdce, upozorňuje a připomíná aféry kolem softwarového asistentu Alexa. Tato Alexa, podobně jako Siri od Applu, je typický softwarový robot, který vykonává příkazy nebo vede víceméně smysluplnou konverzaci. Zábavné to bylo do doby, než se ukázalo, že se takový asistent dá spustit náhodně a že vývojáři tyto náhodně nahrané cizí dialogy analyzují a používají k rozšiřování schopností aplikace na bázi strojového učení. A to je možná vysvětlení, proč FaceApp skladuje fotografie osmačtyřicet hodin.

Manipulace s obrazem slouží k zábavě. A také k manipulaci s informacemi. Koneckonců i FaceApp má v sobě filtr, který umí vkopírovat váš obličej do libovolného prostředí. Pro moderní manipulaci s obrazem se ujal výraz deep fake. Fotografické montáže se užívaly ke klamání veřejnosti už dávno, ovšem současné postupy na bázi neuronových sítí jsou schopné vygenerovat realisticky působivý filmový záznam včetně hlasového projevu. První, tehdy ještě na dnešní poměry primitivní pokusy jsme viděli ve filmu Forrest Gump, kde hrdina vstupoval do historických filmových záběrů. Ovšem klasická deep fake byla slavná scénka České sody zesměšňující televizního moderátora Jána Zákopčaníka. Manipulace s videozáznamy s cílem ovlivnit veřejné mínění je dnes zcela běžná, zpravidla jde o použití „něčeho jiného v jiném kontextu“. Metodika deep fake ale dovede vyrobit videozáznam tak přesvědčivý, že je takřka nemožné ho identifikovat jako falzum.

V tomto ohledu je Wozniakova skepse plně opodstatněná. Žijeme ve vizuálním světě, naše rozhodování jen minimálně vychází z osobní zkušenosti a je založeno na tom, co nám kdo řekne a ukáže. Prostor k manipulaci se rozšiřuje a rostou schopnosti jednotek umělé inteligence – dnes už je asi pošetilé jim říkat počítače.

Jenom se kouká!

Tyto jednotky se učí a potřebují k učení materiál. Proto Amazon zneužil Alexu. A kdoví, dokázat to nelze, i to je důvod, proč FaceApp po vás nechce jenom tu jednu fotku, kterou pořídíte selfie kamerou, abyste se zasmáli: ona si prohlédne všechny fotky s obličejem ve vašem mobilu. Experti ujišťují, že si je jenom prohlédne, ale nikam neposílá. Ono je to asi tak, že zloděj k vám vleze, odnese vám budík, ale probere se všemi šuplíky s vaším prádlem. Nic se neztratí, ale jedno přibude, pocit ošklivosti.

Jak roste kapacita umělé inteligence, tak rostou požadavky na normální lidský rozum. Používejme ho. Mé fotky nikdo nezneužije, když je nebudu rozhazovat oběma rukama po světě. A fake news mě neoklamou, když budu kriticky hodnotit zdroj informací a přidržím se jen zdrojů kontrolovaných, s čitelnou vnitřní etikou a ověřených zkouškami času.

Jestlipak ti domorodci na Zambezi neměli pravdu, když věřili, že jim fotografie krade duši?

LN, 27.7.2019