Model cards – „průkaz“ AI modelu: co dokumentace obsahuje, proč je důležitá a jak ji číst

Když si koupíte lék, najdete v příbalovém letáku účel, dávkování, kontraindikace a nežádoucí účinky. U modelů umělé inteligence by měla podobnou roli plnit dokumentace modelu, tzv. model card. Tento pojem zavedla v roce 2018 studie „Model Cards for Model Reporting“ (Margaret Mitchell, Timnit Gebru a kol.). Model card je krátký dokument, který k trénovanému modelu říká: k čemu je určen, jak dobře funguje v různých podmínkách a pro různé skupiny lidí a kde selhává. Tento článek vysvětluje, co model card obsahuje, proč je užitečná a jak ji číst před nasazením AI ve firmě, škole či úřadu.

Informace vycházejí z abstraktu studie Model Cards for Model Reporting (arXiv:1810.03993; první verze 5. 10. 2018, druhá 14. 1. 2019; publikováno na konferenci FAT* ’19), z rámce NIST AI RMF, z přehledu AI Act a z definice Open Source AI Definition (stav k 14. 11. 2026). Konkrétní podoba dokumentace se liší podle poskytovatele; nejde o právní ani technické poradenství.

Související články: Jak hodnotit AI modely – benchmarky, Rizika AI – bias a diskriminace a AI Act – harmonogram a GPAI.

Aktualizováno: listopad 2026.

Co je model card

Podle abstraktu studie jsou model cards krátké dokumenty doprovázející trénované modely strojového učení. Poskytují srovnávací hodnocení výkonu modelu za různých podmínek, například napříč kulturními, demografickými či fenotypovými skupinami (včetně průsečíkových skupin), které jsou relevantní pro zamýšlenou oblast použití. Zároveň uvádějí kontext zamýšleného použití, podrobnosti o postupech hodnocení a další relevantní informace.

Cíle, které autoři formulují: zvýšit transparentnost reportování modelů, objasnit zamýšlené případy použití a odrazovat od použití v kontextech, pro které je model nevhodný. Zároveň ji vnímají jako krok k tomu, aby byla umělá inteligence odpovědně zpřístupněna širšímu okruhu lidí, a vybízejí, aby vydání modelů doprovázely podobně podrobné informace o hodnocení.

Postup čtení dokumentace modelu – vlastní infografika

Proč je dokumentace důležitá

• Vhodnost použití. Model natrénovaný pro jeden účel může selhat v jiném. Dokumentace pomáhá odhalit, zda je pro vaši úlohu vhodný.
• Rozdíly mezi skupinami. Průměrná přesnost může skrývat, že model horší výsledky pro určité skupiny (jazyk, věk, původ). Hodnocení po skupinách tyto rozdíly zviditelní; viz Rizika AI – bias a diskriminace.
• Odpovědnost. Když se věci nepovedou, dokumentace ukazuje, co bylo deklarováno a jak bylo ověřeno.
• Srovnatelnost. Jednotné informace usnadňují porovnání modelů.
• Transparentnost pro regulaci. Dokumentace je přirozenou součástí povinností u modelů obecného účelu a vysoce rizikových systémů (viz níže).

Co by dobrá dokumentace měla obsahovat

Studie definuje základní myšlenku; na jejím základě se v praxi doporučuje hledat tyto informace:

1. Zamýšlené použití a omezení použití. K čemu je model určen a v jakých situacích se nemá používat.
2. Údaje o modelu. Typ, verze, kdo ho vytvořil, jaké jsou jeho vstupy a výstupy.
3. Údaje o trénovacích a testovacích datech. Původ, filtrování, jazyk; srovnejte s požadavkem na informace o datech u open source AI; viz Co je opravdu open-source AI.
4. Metodika hodnocení. Jaké metriky, jaké testovací sady, za jakých podmínek.
5. Výsledky po skupinách a podmínkách. Nejen průměr, ale rozdělení podle relevantních skupin.
6. Etické úvahy a rizika. Známá zkreslení, možné škody.
7. Doporučení pro používání. Například kdy je nutný lidský dohled.
8. Datum a verze dokumentace. Dokumentace se musí aktualizovat spolu s modelem.

Jak model card kriticky číst

• Jsou výsledky ověřitelné? Zjistěte, zda tvrzení vychází z nezávislých testů, nebo jen od autora.
• Odpovídají testovací data vašemu použití? Model testovaný na angličtině nemusí fungovat v češtině; viz AI chatboti a čeština.
• Chybí skupiny? Pokud dokumentace neuvádí výsledky pro skupiny, které se vás týkají, nepředpokládejte, že jsou stejné jako průměr.
• Jsou uvedena omezení? Dokumentace bez omezení je podezřelá.
• Je dokumentace aktuální? Zkontrolujte datum a verzi.
• Nenahrazuje to vlastní testy. I dobrá dokumentace nezaručí, že model bude fungovat na vašich datech; vždy ověřte na vlastním vzorku; viz Jak hodnotit AI modely – benchmarky.

Souvislost s regulací a rámci

• AI Act. U modelů obecného účelu platí podle Evropské komise od 2. 8. 2025 povinnosti transparentnosti a zveřejnění shrnutí trénovacího obsahu; u vysoce rizikových systémů se vyžadují mimo jiné dokumentace, záznamy a lidský dohled. Viz AI Act – harmonogram a GPAI.
• NIST AI RMF. Kategorizace systému, dokumentace a sledování vlastností důvěryhodné AI (platnost, spolehlivost, transparentnost, férovost) jsou součástí funkcí Map a Measure; viz NIST AI RMF.
• Open Source AI Definition. Požaduje informace o datech, kód a parametry; dobře vedená dokumentace modelu je jejím praktickým doplňkem.

Co dělat jako uživatel či firma

1. Před nasazením vyžádejte dokumentaci modelu. Pokud ji dodavatel nemá, berte to jako varování.
2. Porovnejte zamýšlené použití s vaší úlohou.
3. Ověřte výkon na vlastních datech, včetně relevantních skupin uživatelů.
4. Určete lidský dohled u rozhodnutí s dopadem na lidi.
5. Sledujte aktualizace modelu a dokumentace.
6. Dokumentujte vlastní použití: kdo model schválil, proč a jaké omezení uložil.
7. Informujte uživatele, že komunikují s AI, kde je to povinné.

Pro děti a školy

Při výuce o AI je užitečné ukázat žákům model card jako příklad, že každá AI má omezení a že rozhodnutí o jejím použití je lidské. Žáci se mohou ptát: K čemu byl model určen? Kdo ho testoval? Kde může selhat? Viz AI pro studenty – bezpečné učení a AI pro učitele.

Nejčastější slabiny dokumentace v praxi

Při posuzování dokumentace modelů se často objevují stejné slabiny. Marketingový jazyk místo faktů: formulace typu „nejpokročilejší model“ bez metodiky nic neříkají. Průměrné výsledky bez rozdělení: jedno číslo skrývá rozdíly mezi jazyky, oblastmi či skupinami lidí. Testy na datech, která model už „viděl“: pokud se testovací data překrývají s trénovacími, výsledky jsou příliš optimistické. Chybějící omezení: žádný model není vhodný pro všechno. Zastaralost: model se aktualizuje, dokumentace nikoli. Při čtení se proto ptejte konkrétně: *Na jakých datech to bylo testováno? Kdo test provedl? Pro koho je výsledek horší? Co když vstup neodpovídá tomu, na čem se model učil?* Odpovědi lze porovnat s požadavky rámce NIST na to, aby měření přesnosti vycházelo z realistických testovacích sad reprezentativních pro očekávané použití.

Dokumentace a bezpečnost

Dokumentace modelu by měla mít i bezpečnostní část: známé způsoby zneužití, zranitelnosti vůči útokům (například prompt injection či jailbreak) a doporučení pro nasazení. Pokud ji dodavatel nemá, doplňte vlastní posouzení rizik; viz Prompt injection a Jailbreak AI modelů. U agentních systémů se dokumentace vztahuje také na nástroje, oprávnění a kontrolní body; viz AI agent, nebo workflow?. Zveřejnění dokumentace přitom neznamená, že je model bezpečný: jde o informaci pro rozhodnutí, ne o certifikaci.

Vlastní „model card“ pro interní nástroje

Pokud ve firmě vytváříte vlastní nástroje s AI (například chatbota nad interními dokumenty), napište si jednostránkovou dokumentaci: účel, co nástroj nesmí dělat, zdroje dat, jak byl testován, známé chyby, kdo je odpovědný, jak nahlásit problém a datum poslední revize. Přečte ji nový kolega i auditor a ušetří vám to nejedno nedorozumění. Jednoduchý formát je lepší než rozsáhlý dokument, který nikdo nečte.

Praktický příklad (smyšlený)

Úřad zvažuje AI nástroj pro předtřídění žádostí. Dodavatel předloží dokumentaci: model byl testován na anglických textech a výsledky jsou uváděny jen jako celkový průměr. Úřad požádá o testy na českých dokumentech a o rozdělení výsledků podle typů žádostí a skupin žadatelů. Dodavatel testy doplní a ukáže, že u jednoho typu žádostí je chybovost vyšší, proto úřad zavede povinnou kontrolu úředníkem. Příklad je smyšlený.

Kontrolní seznam – vlastní infografika

Model card v kostce

Základní údaje – vlastní infografika

Výhody a nevýhody

Souhrn – vlastní infografika

Související články

V kategorii Základy a principy AI najdete také Jak se trénuje AI model a Strojové učení a hluboké učení.

Shrnutí

Model card je krátká dokumentace trénovaného modelu: zamýšlené použití, postupy hodnocení a výsledky pro různé podmínky a skupiny. Podle studie Mitchell a kol. zvyšuje transparentnost a odrazuje od použití v nevhodných kontextech. Před nasazením AI ji vyžadujte, kriticky čtěte a ověřte model na vlastních datech. Souvisí s AI Act, NIST AI RMF i otevřeností AI. Nejde o právní ani technické poradenství.

Často kladené otázky k model cards