AI v justici – která použití podporovat a kterých se vyvarovat (CEPEJ, COMPAS, prediktivní justice)

Existují oblasti justice, kde je AI užitečná a relativně bezpečná, a oblasti, kde je výslovně nežádoucí. Rozdíl je důležitý, protože slovo „prediktivní justice“ evokuje představu stroje, který předpoví výsledek soudního řízení nebo rozhodne za soudce. Studie Evropské komise pro efektivitu justice (CEPEJ) při Radě Evropy, která je součástí Evropské etické charty o AI v justici (2018), proto v příloze II rozlišuje použití, která je vhodné podporovat, která vyžadují zvýšenou metodickou opatrnost, která mají čekat na další vědecké studie a která mají být zvažována s nejvyššími výhradami. Tento článek je shrnuje a doplňuje příkladem COMPAS. Nejde o právní poradenství.

Zdroj: European Ethical Charter on the use of AI in judicial systems and their environment (CEPEJ, Rada Evropy, PDF, 2019), příloha I a II. Doplňuje článek Etika AI v soudnictví – pět zásad charty CEPEJ. Dokument pochází z roku 2018, takže technologie (zejména generativní AI) se od té doby výrazně posunuly; metodická upozornění a principy ale zůstávají užitečné.

Aktualizováno: listopad 2026.

Použití, která charta doporučuje podporovat

Podle přílohy II je strojové učení pro vyhledávače judikatury příležitostí, kterou mají využít všichni právní profesionálové. Konkrétně:

• Zlepšení vyhledávání judikatury. Metody zpracování přirozeného jazyka doplňují klíčová slova a fulltextové vyhledávání, mohou propojovat zdroje (ústavy, úmluvy, zákony, judikaturu a teorii) a vizualizovat výsledky.
• Přístup k právu. Chatboti mohou bez nahrazení lidské intervence usnadnit přístup k informacím v přirozeném jazyce; online lze generovat také vzory dokumentů, například návrhy na zahájení řízení či nájemní smlouvy.
• Nové strategické nástroje. Datová věda na datech o činnosti soudů může zlepšit efektivitu justice, například kvantitativními a kvalitativními hodnoceními a projekcemi lidských a rozpočtových zdrojů. Charta doporučuje zapojení právních profesionálů, zejména soudců, do zavádění a vyhodnocování.

Postup třídění nápadů na použití AI v justici – vlastní infografika

Použití vyžadující značná metodická opatření

Charta uvádí několik oblastí, kde je AI možná, ale vyžaduje velkou opatrnost:

• Pomoc při sestavování tarifů v některých občanskoprávních sporech. Samotná analýza všech rozhodnutí podle charty nemá statistický význam, pokud nejsou zjištěny všechny příčinné faktory. Vyšší průměrné odškodné v jedné oblasti může být vysvětleno vlastnostmi oblasti, nikoli chováním soudců. Nezbytným předpokladem je relevantní vzorek rozhodnutí.
• Podpora alternativního řešení sporů. Charta zmiňuje, že v některých zemích „prediktivní“ nástroje používají pojišťovny k odhadu úspěšnosti sporu a k nasměrování klienta k jinému způsobu řešení. Takové systémy nelze považovat za nestranné a spolehlivé; rozhodují o občanovi na základě neúplných dat. Nejvhodnějším řešením je zatím přítomnost vyškolené třetí osoby (mediátora či advokáta).
• Online řešení sporů. Účastníci mají být jasně informováni, zda je spor zpracováván zcela automatizovaně, nebo za účasti mediátora či rozhodce, a informace musí být pravdivé a nevyvolávat dojem, že jde o soud. Je třeba zvažovat přezkum postupu státními soudy ve smyslu čl. 6 a 13 Evropské úmluvy, zvláště pokud účastník souhlasil s plně automatizovaným řízením.
• Algoritmy v kriminalistice při určování míst, kde se páchají trestné činy. Charta upozorňuje na „performativní efekt“: na místě, kam se hlídky posílají častěji, se zjistí více trestných činů, což systém posílí. Naopak predikce v boji proti praní špinavých peněz (kvantitativní finanční data) funguje spolehlivěji.

Použití, která mají počkat na další studie

• Profilování soudců. Kvantifikace činnosti soudce podle charty vypovídá méně o jeho zaujatosti než o vnějších faktorech, které rozhodování ovlivňují. U kolegiálních rozhodnutí, kde soudce nemůže vyjádřit odlišný názor, je profilování každého člena bezpředmětné. Naopak podrobnější kvantitativní a kvalitativní hodnocení pro vlastní informovanou potřebu soudce, výlučně pro jeho vlastní použití, může být podporováno.
• Předvídání soudních rozhodnutí. Statistické zpracování skupin slov odhaluje frekvenci výrazů, ale neurčuje skutečné důvody rozhodnutí ani nepracuje s právní analýzou. Charta se opírá o studii University College London nad rozhodnutími Evropského soudu pro lidská práva: jednoduchý model dosáhl přesnosti 79 % při předvídání výsledku, ale lépe fungoval u popisné části skutkového stavu než u právního posouzení. Podle charty tak mechanika těchto modelů není srovnatelná s právním uvažováním; výsledky AI nesouvisejí s otázkou právní správnosti řešení a nerozlišují právní a nelegitimní argumenty.

Použití s nejvyššími výhradami

Použití algoritmů k výpočtu rizika recidivy konkrétního obviněného má být zvažováno s nejvyššími výhradami, protože vyvolává otázky souladu se základními právy. Charta v tomto kontextu zmiňuje:

• Profilování jednotlivců v trestních věcech: experimenty v jiných zemích (COMPAS ve Spojených státech a HART ve Spojeném království) byly kritizovány nevládními organizacemi. Čistě statistický přístup podle charty vedl k chybným výsledkům: zjištění, že někteří příslušníci určité skupiny jsou častěji zapojeni do trestné činnosti, vedlo k vyššímu faktoru rizika pro celou skupinu. Takový přístup, který má diskriminační a deterministické účinky, má být nahrazen přístupem, který dává jednotlivci možnost rehabilitace a reintegrace. Pokud algoritmy pomohou například probační službě rychleji shromáždit informace pro následné lidské zpracování, může to být pokrok.
• Kvantitativní norma: nejde jen o tvorbu tarifů, ale o to, aby každý soudce dostal obsah rozhodnutí všech ostatních soudců a jeho budoucí rozhodnutí bylo „uzamčeno“ do masy precedentů. Charta říká, že tento přístup je třeba odmítnout, protože velký počet nemůže doplnit zákon ani jej nahradit. Upozorňuje také na nebezpečí „krystalizace“ judikatury a negativní dopady na nestrannost a nezávislost soudců.

Příklad COMPAS

Charta popisuje COMPAS jako algoritmus vyvinutý soukromou společností, který musejí v některých amerických státech soudci používat. Obsahuje 137 otázek (odpovídá obviněný nebo se čerpá z trestního rejstříku; patří sem například přítomnost telefonu doma, potíže s placením účtů, rodinná historie či trestní minulost) a hodnotí osobu na stupnici 1 (nízké riziko) až 10 (vysoké riziko). Má být pomůckou, jeho závěry jsou jednou z proměnných při rozhodování o trestu. Podle zprávy organizace ProPublica, kterou charta cituje, byla afroamerickým obviněným přiřazována dvojnásobná míra vysokého rizika recidivy do dvou let, aniž to návrháři přímo zamýšleli; algoritmus podle poznámky v chartě nadhodnocoval riziko u černošských obviněných a podhodnocoval u bělošských. Charta zmiňuje také zjištění vědců z Dartmouth College, že tento typ algoritmu nepřináší přidanou hodnotu, protože lidé bez trestní historie dokážou vyplněním dotazníku dospět ke stejnému hodnocení. Dalším problémem byla neprůhlednost: společnost odmítla algoritmus zveřejnit a organizace ProPublica ho musela zkoumat vlastní cestou. Poznámka v chartě rovněž uvádí, že spor o to, zda lze současně dosáhnout přesnosti i nediskriminace, je v odborné literatuře dlouho diskutován.

Co z toho plyne

Následující body jsou úvahy autora článku:

1. Pomocné nástroje ano, nástroje „rozhodující“ ne. Vyhledávání, třídění a vysvětlování jsou odlišná od určování osudu člověka.
2. Neplést korelaci s právním uvažováním. Statistická podobnost textů nemá právní význam.
3. Hlídat zkreslená data. Historická data nesou historické nerovnosti.
4. Požadovat transparentnost. Soukromé algoritmy v justici nelze přijímat jako černou skříňku.
5. Zachovat lidskou odpovědnost. O rozsudku rozhoduje soudce, nikoli model.
6. Vyhodnocovat průběžně. Nové nástroje je třeba sledovat a ověřovat jejich dopady.

Kde najít další informace

K příkladu COMPAS existuje analýza organizace ProPublica Machine Bias, na kterou charta odkazuje; charta zároveň uvádí, že spor o rovnováhu mezi přesností a nediskriminací je v odborné literatuře dlouhodobě diskutován. Právní rámec Evropské úmluvy o lidských právech najdete na webu ECHR a pravidla EU pro AI na stránce Evropské komise, kde jsou správa spravedlnosti a demokratické procesy zařazeny mezi oblasti vysokého rizika. O digitalizaci českého soudnictví informuje Ministerstvo spravedlnosti. Navazuje článek Otevřená data soudních rozhodnutí, pseudonymizace a profilování soudců.

Jak číst slibný marketing „prediktivní justice“

Firmy nabízející nástroje pro předvídání výsledků sporů často slibují procentuální pravděpodobnost úspěchu. Při posuzování takové nabídky se vyplatí položit několik otázek: Na jakých datech byl model učen a jak úplná jsou? Jak byla přesnost měřena a na jakém vzorku? Rozlišuje model právní argumenty, nebo jen četnost slov? Lze výsledek vysvětlit a ověřit? Kdo ponese odpovědnost, pokud se model splete? Podle charty CEPEJ jsou takové systémy zatím převážně využívány pojišťovnami, advokáty a právními odděleními, nikoli běžně soudci; pro klienty to znamená, že výstup nástroje je maximálně informací pro úvahu, nikoli předpovědí rozsudku.

Praktický příklad (smyšlený)

Soud zavádí tři nástroje: vyhledávač podobné judikatury, chatbot odpovídající na procesní dotazy veřejnosti a nástroj, který navrhuje, jak dlouho potrvá řízení. První dva jsou v souladu s doporučenými použitími a nasadí se po testu. Třetí se zavádí jen pro interní plánování a není používán k posuzování konkrétních účastníků. Návrh na systém, který by počítal riziko recidivy obviněných, vedení soudu zamítne s odkazem na výhrady odborníků. Příklad je smyšlený.

Kontrolní seznam – vlastní infografika

Použití AI v justici v kostce

Základní údaje – vlastní infografika

Výhody a nevýhody

Souhrn – vlastní infografika

Související články

V kategorii AI v oborech najdete také AI v právu – analýza a návrh smluv.

Shrnutí

Charta CEPEJ rozlišuje použití AI v justici: podporovat vyhledávání judikatury, přístup k právu a strategické nástroje; opatrně zvažovat tarify a alternativní či online řešení sporů; čekat na výzkum u profilování soudců a předvídání rozhodnutí; nejvyšší výhrady mít k výpočtu rizika recidivy. Příklad COMPAS ukazuje riziko diskriminace a neprůhlednosti. Studie ESLP s 79 % přesností neznamená právní uvažování. Rozhodovat má vždy člověk. Nejde o právní poradenství.

Často kladené otázky k AI v justici