Neviditelný pes

UMĚLÁ INTELIGENCE: Černí nacisté

24.2.2024

V Googlu chtěli být tak vzorní, až to přehnali.

Vyhledávací gigant Google provozuje i řadu vedlejších aktivit, s větší či menší měrou úspěšnosti (např. mobilní operační systém Android). V oblasti umělé inteligence to ovšem není velké jméno a jejich projekt Gemini spíš poklusává ve středu závodního pole.

Gemini umí generovat i obrázky a právě tato schopnost se teď v přecitlivělé části Ameriky postarala o pozdvižení. Nezbední uživatelé, pochtívající po stroji obrázky nacistických vojáků, totiž začali dostávat velmi, hm, inkluzivní výsledky:

Prásk! Rouhání progresivním bohům. Měnit lidem jejich etnickou příslušnost se přece smí jen jedním směrem. Černý Achilles a černá anglická královna jsou krásným příkladem pokrokového umění, černý Sturmbannführer naopak hnusným příkladem systémového rasismu v IT.

(Mimochodem, nacisté sice konkrétně černochy v armádě neměli, ale pokud jde o dnes módní „people of color“, součástí německého Wehrmachtu byl Indický legion skládající se ze zajatců převerbovaných na německou stranu. Jak se válka táhla, musela i Třetí říše slevovat ze svých požadavků.)

Bundesarchiv, Bild 101I-263-1580-05 / Wette / CC-BY-SA 3.0

Toto je krásný příklad informatického principu „garbage in, garbage out“, čili že nacpete-li do stroje pofiderní vstupy, nemůžete dostat kvalitní výstup, leda snad čirou náhodou. Jelikož Google je firma z Kalifornie, kde je politická korektnost všeobecně rozšířeným náboženstvím, naládoval svoji AI myšlenkou, že diverzita barvy pleti je extrémně důležitý atribut – podle svých vlastních slov „aby bojoval proti škodlivým stereotypům“ (citováno v článku NYT) – a vzniklé modely tedy kreslí hlavně nebělochy. Jenže se přitom zapomnělo na to, že ne všechna zadání se týkají Ameriky roku 2024 – a výsledkem jsou tedy nejen různobarevní doktoři a inženýři, ale i různobarevní vojáci Herr Hitlera. (Nemýlím-li se, ten jeden má v uchu dokonce i náušnici, z čehož by asi jeho nadřízení dostali osypky.)

Do jisté míry musíte ten ubohý stroj litovat, protože jeho snaha co nejvěrněji zrcadlit pokřivenou lidskou ideologii je až dojemná. Počítače jsou přece jenom matematické podstaty, tudíž založené na tvrdé logice, a „vecpat“ do nich tak nekonzistentní a lunatické učení, jako je ten moderní progresivní neo-rasismus, je úkol pro (zajisté nebinárního) Sisyfa. Doublethink, který je spoustě lidí tak přirozený, se velmi špatně algoritmizuje. Pak z toho vylézá to, co vylézá.

Nicméně slovo varování na závěr… Většina výstupů takových systémů je textová, ne obrázková. A zatímco absurdity černocha v nacistické uniformě si všimneme hned (teď; v roce 2050 třeba už mladší lidé nebudou mít příslušné vzdělání), verbální bullshit nebývá tak nápadný a je daleko těžší v něm vyhmátnout i hrubé věcné či logické chyby. Použijete-li sofistikovaný slovník, zamícháte do výstupu několik citací (třeba i smyšlených) a celé to odvyprávíte hezkým, gramaticky čistým stylem, bude výsledný text působit přesvědčivě, i kdyby ve skutečnosti nebyl o moc reálnější než oddíl súdánských esesáků.

Coby příslušníka Kmene Klávesnice mě to nijak netěší.

Hudební epilog

Uryen yr echwyd. haelaf dyn bedyd. lliaws a rodyd y dynyon eluyd. Mal y kynnullyd yt wesceryd. llawen beird bedyd tra vo dy uuchyd.

Nerozumím tomu vůbec, ale odhaduji, že někoho to stejně urazí. Tebe snad nikoliv, drahý čtenáři

*************************************************************************************
ZAPOMENUTÉ PŘÍBĚHY 6
Šesté pokračování série Zapomenutých příběhů, dalších třináct kapitol na různá témata. Dozvíte se něco o padajících Kometách, válce s červy nebo o řešení životně důležité otázky „Kde probůh jsem?“. Jeden příběh za druhým je fascinujícím dílkem skládačky v obraze světa, ve kterém žijeme v blahoslavené nevědomosti. Kniha je jako vždy doprovázena rozsáhlou obrázkovou přílohou.
Zapomenuté příběhy 6 si můžete objednat na této adrese.
Všechny knihy autora lze získat ve zvýhodněném balíčku zde.



zpět na článek