Etika AI v soudnictví – pět zásad Evropské etické charty Rady Evropy (CEPEJ)

Stále častěji se mluví o tom, že AI bude pomáhat soudům, advokátům i občanům: vyhledávat judikaturu, třídit dokumenty, odpovídat na dotazy. Co když ale takový nástroj pomáhá rozhodovat o lidských právech a svobodách? V roce 2018 přijala Evropská komise pro efektivitu justice (CEPEJ) při Radě Evropy dokument Evropská etická charta o používání umělé inteligence v soudních systémech a v jejich okolí. Je to jeden z prvních mezinárodních dokumentů, který pro justici stanovuje pět základních zásad. Tento článek je shrnuje a vysvětluje. Nejde o právní poradenství.

Zdroj: European Ethical Charter on the use of AI in judicial systems and their environment (CEPEJ, Rada Evropy, PDF, vydáno 2019). Charta je nezávazná (soft law): nestanovuje právní povinnosti, ale poskytuje vodítka pro tvůrce nástrojů, soudce, legislativce a další. Souvislosti: AI v právu – analýza a návrh smluv a AI Act – harmonogram.

Aktualizováno: listopad 2026.

Pro koho je charta určena

Podle charty je určena veřejným i soukromým subjektům odpovědným za návrh a nasazení nástrojů AI, které zpracovávají soudní rozhodnutí a data (strojové učení nebo jiné metody datové vědy), a také veřejným činitelům, kteří odpovídají za legislativní či regulační rámec, vývoj, audit či používání takových nástrojů. Cíl použití AI v justici je podle úvodu zlepšit efektivitu a kvalitu justice, a proto by mělo být podporováno, ale zodpovědně a s ohledem na základní práva podle Evropské úmluvy o lidských právech a Úmluvy o ochraně osob při automatizovaném zpracování osobních údajů.

Postup posouzení nástroje AI v soudnictví podle CEPEJ – vlastní infografika

1. Zásada respektování základních práv

Návrh a zavedení nástrojů AI musí být slučitelné se základními právy. Podle charty musí zpracování soudních rozhodnutí a dat sloužit jasným účelům a plně respektovat práva zaručená Evropskou úmluvou o lidských právech. Když se AI používá k řešení sporu, jako pomůcka při rozhodování nebo k poskytování rad veřejnosti, je nezbytné zajistit, aby neoslabila záruky práva na přístup k soudu a práva na spravedlivý proces (rovnost zbraní a kontradiktornost). Měla by se také respektovat zásada právního státu a nezávislost soudců. Charta dává přednost přístupu „ethical-by-design“ / „human-rights-by-design“: pravidla zakazující přímé nebo nepřímé porušení hodnot chráněných úmluvami mají být zabudována už v návrhu a učení systému.

2. Zásada nediskriminace

Metody zpracování dat mohou odhalit existující diskriminaci, ale také ji reprodukovat či zesílit. Charta požaduje, aby veřejné i soukromé subjekty zajistily, že metody diskriminaci nereprodukují ani nezhoršují a že nevedou k deterministickým analýzám či použitím. Zvláštní péči vyžaduje, když zpracování vychází přímo či nepřímo z citlivých údajů: například údajného rasového či etnického původu, socioekonomického zázemí, politických názorů, náboženského či filozofického přesvědčení, členství v odborech, genetických, biometrických a zdravotních údajů či údajů o sexuálním životě. Pokud je diskriminace zjištěna, je třeba zvážit nápravná opatření a zvýšit povědomí zúčastněných. Charta zároveň uvádí, že využití strojového učení a multidisciplinárních analýz k boji proti diskriminaci by mělo být podporováno.

3. Zásada kvality a bezpečnosti

Při zpracování soudních rozhodnutí a dat se mají používat certifikované zdroje a nezměnitelná data s modely navrženými multidisciplinárně v bezpečném technologickém prostředí. Podle charty by tvůrci modelů strojového učení měli čerpat z odbornosti soudců, státních zástupců, advokátů a také výzkumníků z práva a společenských věd (například ekonomů, sociologů a filozofů). Doporučuje například smíšené projektové týmy s krátkými cykly vývoje. Data z rozhodnutí vkládaná do softwaru mají pocházet z certifikovaných zdrojů a nemají být měněna, dokud je nepoužije učící mechanismus; celý proces musí být dohledatelný, aby nedošlo ke změně obsahu či významu zpracovávaného rozhodnutí. Modely a algoritmy musí být ukládány a spouštěny v zabezpečených prostředích zajišťujících integritu systému.

4. Zásada transparentnosti, nestrannosti a spravedlnosti

Zpracování dat musí být přístupné a srozumitelné a musí umožňovat externí audity. Charta uvádí nutnost vyvážit duševní vlastnictví některých metod zpracování a potřebu transparentnosti (přístup k procesu návrhu), nestrannosti (absence zkreslení), spravedlnosti a intelektuální integrity, když nástroje mohou mít právní následky nebo významně ovlivnit životy lidí. Opatření se mají týkat celého řetězce návrhu a provozu, protože výběr a kvalita dat přímo ovlivňují učení. Jednou možností je úplná technická transparentnost (například otevřený kód a dokumentace), která bývá omezena obchodním tajemstvím. Systém lze také vysvětlit srozumitelným jazykem: sdělit povahu služeb, vyvinuté nástroje, výkon a rizika chyb. Nezávislé orgány či experti mohou procesy certifikovat a auditovat či předem poradit; veřejné orgány mohou udělovat certifikaci, která se má pravidelně přezkoumávat.

5. Zásada „pod kontrolou uživatele“

Charta odmítá normativní přístup a trvá na tom, aby byli uživatelé informovanými aktéry, kteří mají své volby pod kontrolou. Autonomie uživatele se má zvyšovat, ne omezovat. Právníci a soudci mají mít kdykoli možnost přezkoumat soudní rozhodnutí a data, z nichž výsledek vznikl, a nejsou výsledkem nutně vázáni, pokud to s ohledem na specifika případu neodpovídá. Uživatel má být srozumitelně informován, zda jsou řešení navržená nástrojem AI závazná, jaké jsou další možnosti a že má právo na právní poradenství a přístup k soudu; také má být jasně informován o předchozím zpracování případu pomocí AI a mít právo vznést námitku, aby jeho věc projednal přímo soud ve smyslu čl. 6 Evropské úmluvy. Při zavádění systémů AI mají být organizovány programy počítačové gramotnosti a diskuse s odborníky z justice.

Použití a hodnocení charty

Charta uvádí, že její zásady mají být pravidelně uplatňovány, sledovány a hodnoceny veřejnými i soukromými aktéry; doporučuje pravidelný přezkum a, pokud zásady nejsou uplatněny, vysvětlení důvodů s akčním plánem. Nezávislé orgány by mohly pravidelně posuzovat, nakolik jsou zásady přijímány, a navrhovat zlepšení s ohledem na vývoj technologií.

Co z toho plyne v praxi

Následující body jsou úvahy autora článku:

1. Člověk rozhoduje. AI může pomáhat, ale nesmí odebrat soudci ani účastníku řízení možnost samostatného posouzení.
2. Informovanost je právem. Pokud se v řízení použila AI, mají o tom účastníci vědět.
3. Zkreslení je třeba aktivně hledat, zejména u citlivých údajů.
4. Důvěra vyžaduje auditovatelnost. Pokud je nástroj neprůhledný, je třeba alternativní vysvětlení a nezávislý audit.
5. Kvalita dat je základ. Neověřená či měněná data mohou změnit smysl rozhodnutí.
6. Vzdělávání uživatelů je součástí zavádění.

Kde najít další informace

Text Evropské úmluvy o lidských právech a judikaturu Evropského soudu pro lidská práva najdete na webu ECHR. Evropský rámec pro AI, který řadí soudnictví mezi oblasti s vysokým rizikem, popisuje přehled Evropské komise. Informace o českém soudnictví a jeho digitalizaci zveřejňuje Ministerstvo spravedlnosti ČR. Konkrétní použití AI v řízení vždy posuzuje soud a podléhá platným procesním předpisům.

Jak charta souvisí s AI Act

Charta vznikla před nařízením EU o umělé inteligenci, ale její zásady se s ním částečně překrývají: důraz na lidský dohled, kvalitu dat, transparentnost a ochranu základních práv najdeme i v požadavcích na vysoce rizikové systémy. Podle přehledu Evropské komise patří mezi oblasti vysokého rizika i správa spravedlnosti a demokratických procesů. Pro tvůrce nástrojů to znamená, že charta může sloužit jako užitečný kontrolní seznam už ve fázi návrhu, zatímco AI Act stanoví právně závazné povinnosti. Termíny a rozsah povinností se mění, proto je třeba je ověřit v aktuálním znění předpisu a na stránkách Evropské komise.

Proč je v justici opatrnost důležitější než jinde

Chyba nástroje AI v e-shopu znamená nevhodné doporučení zboží. Chyba v soudnictví může ovlivnit svobodu, majetek nebo rodinný život člověka. Rozhodnutí soudu navíc musí být vysvětlitelné a přezkoumatelné, což u neprůhledných systémů není samozřejmé. Proto charta zdůrazňuje, že AI má být pomocníkem lidí v justici, nikoli jejich náhradou, a že účastníci řízení mají právo vědět, jak byl jejich případ zpracován.

Praktický příklad (smyšlený)

Soud zvažuje vyzkoušet nástroj, který třídí podání podle tématu a navrhuje podobné případy. Před nasazením ověří, zda nástroj používá certifikovaná data, zda lze zpětně dohledat, odkud návrhy pocházejí, a zda je možné je kdykoli ignorovat. Účastníkům řízení oznámí, že nástroj pomáhá třídit podání, ale nerozhoduje. Zaměstnance proškolí. Příklad je smyšlený.

Kontrolní seznam – vlastní infografika

Pět zásad v kostce

Základní údaje – vlastní infografika

Výhody a nevýhody

Souhrn – vlastní infografika

Související články

V kategorii AI v oborech najdete také AI v pojišťovnictví.

Shrnutí

Charta CEPEJ stanoví pět zásad pro AI v soudnictví: respektování základních práv, nediskriminaci, kvalitu a bezpečnost, transparentnost a nestrannost a kontrolu uživatelem. Klade důraz na ethics-by-design, certifikovaná data, externí audity a na to, aby rozhodoval člověk a účastníci věděli o použití AI. Charta je nezávazná, ale užitečná jako měřítko pro tvůrce nástrojů i uživatele. Nejde o právní poradenství.

Často kladené otázky k etické chartě CEPEJ