Českem hýbe další pofidérní kauza. Selhání policie, která si práci údajně zlehčovala tím, že používala umělou inteligenci. A policie bohužel „umělce“ trochu asi naletěla. Jak už říkával rada Vacátko – policejní práce, to není peříčko, pánové.

Chyby se měli pravděpodobně dopustit elitní policisté z Národní centrály proti organizovanému zločinu (NCOZ), když obvinili z praní špinavých peněz Tomáše J., jenž českému státu „daroval“ bitcoiny v hodnotě přibližně miliardy korun. A pak kvůli tomu mj. padl i populární ministr Pavel Blažek (ODS/Spolu) vulgo Don Pablo z Brna city.

Elitní policisté (možná následně i státní zástupci) použili totiž právní kvalifikaci, která v době, kdy k činu mělo dojít, vůbec v trestním zákoníku neexistovala. Vyskytla se silná domněnka, že policisté případ řešili pomocí tzv. umělé inteligence (AI), konkrétněji za pomoci tzv. ChatGPT. Nevíme, zda policisté z celostátního útvaru tak učinili pomocí bezplatné verze AI, nebo jim jejich nadřízení zaplatili lepší vyšší verzi. Člověk by se dnes ani nedivil, kdyby to bylo pomocí té bezplatné, šetří se dnes (údajně) všude.

Nechci a ani nemohu zde řešit, jak policisté a možná státní zástupci (ne)naletěli v tomto konkrétním případu „umělce“. Spíš se musím zamyslet obecněji nad využíváním (či zneužíváním) umělé inteligence v právnickém řemesle. A nahradí nás právníky? Což je nepochybně silné téma, které rezonuje širší, i neprávnickou veřejností.

Efektivnost vs. riziko fabulace

Nástroje umělé inteligence (AI) se postupně stávají běžnou součástí právní agendy – využívají se mj. k přípravě smluv, rešerším, argumentaci i poradenství klientům. Zejména u rozsáhlých datových sad, jako jsou judikáty (včetně zahraničních) nebo právní předpisy, pomáhají hlavně ušetřit čas a navíc „zefektivnit procesy“, jak říkají zejména mladší právníci a právničky. Přesto jejich použití přináší specifická nebezpečí, která bez odborného dohledu mohou mít závažné důsledky pro kvalitu a spolehlivost právních služeb.

AI dnes zvládá během chvilky prohledat stovky či tisíce dokumentů, nabídnout návrhy smluv nebo právních argumentací. Přesto je nutné být maximálně obezřetný: modely jako ChatGPT, Copilot, Perplexity či Claude mohou „vymýšlet“ a často i vymýšlejí (zcela nebo zčásti) neexistující fakta, včetně smyšlených rozsudků nebo dokonce fiktivních citací. Viz i výše připomenutá „bitcoinová kauza“.

Pakliže právník (či student/ka práv) takový výstup přijme rovnou bez ověření, může stavět argumentaci či návrh smlouvy (nebo jiného dokumentu) na neexistujících základech. Což může mít zákonitě hodně negativní následky.

Kontext je alfou a omegou

AI (většinou) nezná detaily konkrétního případu – nevidí složky, osobní vztahy ani detailnější procesní strategii. Její návrhy proto mohou být bez správného kontextu často více či méně zavádějící. A tedy v zásadě nepoužitelné pro kvalitní advokátní či jinou odbornou práci.

Jak trefně říkal již před lety filozof Václav Bělohradský – informace jsou zvířátka, která žijí v kontextech. Což u právních dokumentů platí trojnásobně.

Zkušený právník však chápe (či chápat má) hlubší smysl právní úpravy a vztahy mezi účastníky (a dále např. se správním či soudním orgánem) i další relevantní okolnosti. Jen on však nese finální odpovědnost, a jen on může a vlastně i musí správně posoudit, kde je třeba AI „jenom“ více či méně doplnit a korigovat, a kde je nutné zcela rozhodnout vlastní hlavou, bez podpůrných berliček umělé inteligence.

AI jako asistent či posluha, nikoli autorita

Klíčové je vnímat AI jako spolupracovníka či pomocníka (nebo dokonce moderního sluhu) – ne jako náhradu koncipienta, či dokonce samotného advokáta, soudce, vyšetřovatele či jiného odborného právního specialisty.

Výstupy AI mohou určitě adekvátně inspirovat, urychlit rešerši nebo navrhnout strukturu dalších postupů. Vše je nutno ovšem více než bedlivě kontrolovat, kontrolovat, kontrolovat, kontrolovat, kontrolovat a ještě jednou analyticky kontrolovat. Právě pořádná kontrola patrně selhala ve výše zmíněném „bitcoinovém“ případu.

Finální rozhodující kvalitní argumentaci, citace i výklad musí, nejen podle mého názoru, stejně zpracovat osobně právník. Bez toho by došlo k podcenění lidského úsudku a ztrátě kritického přístupu, který je pro právo nezbytný.

Kdo dnes ověřuje informace?

Není žádným tajemstvím či novinkou, že dnes si chytřejší klient (který mj. chce ušetřit za právníka) mnohdy informace najde sám pomocí některé z AI. Na první pohled vypadají výstupy věrohodně, přesto mohou být (naprosto nebo zčásti) nesprávné nebo neaktuální. Varováním opět může být i citovaná kauza praní špinavých peněz pana Tomáše J., a řada dalších, kde někdo odfláknul kontrolu práce AI.

Právník je pak nezastupitelný – jeho úlohou je rozlišit spolehlivé podklady od pouhých odvozenin a klienta vést správným směrem.

AI v právu se stala realitou, ať se to někomu líbí či nelíbí. A bylo by bláhové hrozit „právním AI mrakům“, ať zase odplují do dáli. Ostatně nyní ji používá většina českých a slovenských advokátních kanceláří, někde více, jinde ještě více. Otázka tedy není, zda ji používat, ale jak – a za jakých podmínek.

Jasně definovaný koncept spolupráce mezi právníkem a technologií je nutností. Právník si musí být vědom limitů nástroje a mít vždy poslední slovo (!) nad výsledkem. Pouze tak lze využít potenciál AI, aniž bychom ohrozili integritu a kvalitu právního poradenství, rozhodování a honorovaných právních služeb celkově jako takových.

Sluha, který potřebuje dohled

AI představuje v právní praxi významný přínos – mj. šetří drahocenný čas, pomáhá s analýzami a může urychlit přípravu dokumentů. Avšak bez zkušeného a motivovaného právníka, jenž výstupy kriticky ověří a umí je správně aplikovat, hrozí nepřesnosti a špatný odborný přístup. Sečteno - odpovědnost zůstává vždy na lidské straně.

Zásadní je nadále odpovědnost právníka/advokáta/soudce/státního zástupce/vyšetřovatele – jeho schopnost vnímat, kde končí možnosti těchto postmoderních nástrojů, a kvalifikovaně rozpoznat situace, kdy mohou být užitečné. A kdy je naopak nezbytné spolehnout se na vlastní právní úsudek a relevantní odborné dovednosti.

Jak říkali již staří Římané – Umělá inteligence je dobrý sluha, ale špatný pán.

Psáno pro Lidové noviny, autorův blog Legendární medvěd je zde.