Kdo nese odpovědnost za chyby AI – uživatel, firma, poskytovatel; případy a právní rámec v EU a ČR

Chatbot poradí zákazníkovi špatnou slevu, asistent vymyslí neexistující rozsudek, AI v nemocnici přehlédne nález, autonomní systém způsobí škodu. Kdo za to odpovídá? Umělá inteligence není právním subjektem, nemůže nést odpovědnost, nemá majetek a není stranou smlouvy. Odpovědnost proto směřuje k lidem a firmám: tomu, kdo AI nasadil, tomu, kdo ji vytvořil či prodal, a tomu, kdo ji použil a spoléhal na její výstup. Přesné rozdělení záleží na konkrétní situaci, smlouvách a platném právu, které se v oblasti AI stále vyvíjí.

V článku shrnujeme základní zásady odpovědnosti, hlavní případy (Air Canada, advokát s vymyšlenými rozsudky), jaký je stav evropské a české úpravy, jaké jsou odpovědnosti uživatele, firmy a poskytovatele, jak se zajistit smlouvami a procesy a jaká jsou praktická pravidla. Čerpáme z právních přehledů Právní prostor: Umělá inteligence a odpovědnost za škodu, ePravo: Kdo nese odpovědnost za umělou inteligenci?, ePravo: Směrnice o odpovědnosti za AI, Advokátní deník: Odpovědnost za autonomní systémy, ARROWS: odpovědnost při použití AI ve zdravotnictví, zpráv o případu Air Canada (Tom’s Guide, IoD New Zealand, ACS), případu advokátů v USA (CBS News, The Register, Irish Times) a zpráv o osudu evropského návrhu směrnice (Lupa.cz, ITPro, MLex). Nejde o právní poradenství; konkrétní případ konzultujte s advokátem.

Související články: AI a ochrana osobních údajů (GDPR), Umělá inteligence a autorský zákon v ČR a Firemní politika používání AI.

Aktualizováno: listopad 2026.

Základní zásada: odpovědnost nese člověk či firma

• AI není subjektem práva: podle právních přehledů (Právní prostor) jí nelze přičítat osobní odpovědnost za škodu; hledá se proto, kdo ji nést má (výrobce, provozovatel, uživatel).
• Dokud neexistuje zvláštní úprava, uplatňují se obecná pravidla: odpovědnost za škodu, za vadný výrobek, smluvní odpovědnost, ochrana spotřebitele, ochrana osobních údajů a další předpisy podle oboru; viz ePravo a Advokátní deník.
• Poškozený musí často dokazovat pochybení, škodu a souvislost; u složitých systémů je to těžké, proto se hledají pravidla, která důkazní situaci usnadní.
• Možných odpovědných osob je více: vývojář modelu, poskytovatel služby, firma, která AI zabudovala do produktu či zákaznické linky, zaměstnavatel, uživatel, který výstup použil.
• Pravidlo pro praxi: kdo AI použije v rozhodnutí, produktu či službě, nese odpovědnost navenek, i když jí „věřil“.

Orientační schéma posuzování odpovědnosti za chybu AI – vlastní infografika

Případ Air Canada: firma odpovídá za svého chatbota

V případu *Moffatt v. Air Canada* (2024) kanadský tribunál podle zpráv médií rozhodl, že letecká společnost odpovídá za nesprávné informace, které poskytl chatbot na jejím webu. Zákazník se u chatbota ptal na slevu pro pozůstalé a podle jeho rady si koupil letenky za běžnou cenu v domnění, že slevu může požádat zpětně; informace byla chybná. Air Canada tvrdila mimo jiné, že chatbot je samostatný subjekt a že správnou informaci mohl zákazník najít na jiné stránce webu. Tribunál podle zpráv (Tom’s Guide, ACS) tato tvrzení odmítl: chatbot je součástí webu a společnost odpovídá za informace na něm, ať pocházejí ze statické stránky, nebo od chatbota. Zákazník dostal přibližně rozdíl v ceně letenek (v řádu stovek kanadských dolarů). Poučení: „to udělala AI“ není obhajoba. Pokud firma chatbota nasadí, nese odpovědnost za jeho tvrzení vůči zákazníkům. Komentáře upozorňují, že jde o rozvíjení stávajícího práva, nikoli o průlom, a že tribunál neřešil odpovědnost vývojáře chatbota. Rozhodnutí je kanadské a v ČR by se posuzovalo podle českého práva; princip odpovědnosti provozovatele je ale všeobecně srozumitelný.

Případ advokátů s vymyšlenými rozsudky

V USA (*Mata v. Avianca*, 2023) použil advokát ChatGPT při přípravě podání a soudu předložil neexistující soudní rozhodnutí vymyšlená AI. Podle CBS News a The Register se advokát ptal chatbotu, zda jsou případy pravdivé, a ten to potvrdil; soud advokáty sankcionoval (podle zpráv pokutou 5 000 dolarů). Později se podobné případy opakovaly a soudy se k nim staví stále přísněji; údaje o jejich počtu pocházejí ze sekundárních zdrojů, proto je berte jako orientační. Poučení: kdo AI výstup podepíše či použije, odpovídá za jeho správnost. Ověřovat AI pomocí téže AI nestačí. Platí to pro právníky, lékaře, účetní, učitele, novináře i studenty; viz Proč AI halucinuje.

Stav evropské a české úpravy

• AI Act (nařízení o umělé inteligenci) stanoví pravidla pro vývoj a používání AI podle rizikovosti (například požadavky na vysoce rizikové systémy, transparentnost, lidský dohled). Neřeší však komplexně náhradu škody; právní přehledy proto upozorňují, že odpovědnost se dál řídí jinými předpisy. Konkrétní povinnosti a termíny se postupně uplatňují.
• Návrh směrnice o odpovědnosti za AI (2022) měl usnadnit poškozeným důkaz; Komise jej podle zpráv (Lupa.cz, ITPro, MLex) po nedostatku shody stáhla; část europoslanců stažení kritizovala. Podrobnosti a aktuální stav ověřte v oficiálních zdrojích.
• Nová směrnice o odpovědnosti za vadné výrobky (EU) 2024/2853 rozšiřuje pojem výrobku také na software včetně systémů AI, zavádí objektivní odpovědnost výrobce a usnadnění důkazů; členské státy ji mají přenést do práva do 9. prosince 2026 a vztahuje se na výrobky uvedené na trh po tomto datu. O stavu české transpozice sledujte aktuální informace; viz též PwC: Česko chystá zásadní změnu zákona.
• České právo (občanský zákoník): obecná odpovědnost za škodu, odpovědnost za vady, odpovědnost za škodu způsobenou provozem či věcí; viz Právní prostor.
• Odvětví s přísnější odpovědností: zdravotnictví, doprava, finance; viz ARROWS: odpovědnost při použití AI ve zdravotnictví.
• Ochrana osobních údajů je samostatný režim s pokutami; viz AI a ochrana osobních údajů (GDPR).

Právní stav se mění rychle, proto při konkrétním rozhodování ověřte aktuální znění předpisů.

Kdo za co odpovídá (orientačně)

• Uživatel (zaměstnanec, profesionál, student): za ověření a použití výstupů, za dodržení pravidel zaměstnavatele a školy, za nevkládání cizích dat bez oprávnění a za případné porušení práv třetích osob.
• Firma, která AI nasadila (e-shop, banka, nemocnice, škola): za tvrzení a rozhodnutí svého systému vůči zákazníkům, za výběr dodavatele, za dohled, bezpečnost a ochranu údajů; viz AI pro zákaznický servis ve firmě.
• Poskytovatel či výrobce AI: za vady produktu a splnění zákonných povinností (podle AI Actu a produktové odpovědnosti), v rozsahu stanoveném právem a smlouvou; podmínky služeb často odpovědnost omezují, což ale nemusí platit vůči spotřebitelům či v rozporu s právem.
• Zaměstnavatel: za zaměstnance, kteří AI používají při práci; za nastavení pravidel a školení.
• Dodavatelský řetězec: odpovědnost lze smluvně rozdělit, ale vůči poškozenému obvykle odpovídá ten, kdo se s ním ocitl ve vztahu.
• Spolupráce více osob: odpovědnost může být sdílená.

Kontrolní seznam – vlastní infografika

Jak odpovědnost řešit v praxi

1. Interní pravidla: určete, kde se AI smí používat, kdo výstup kontroluje a kdo nese odpovědnost; viz Firemní politika používání AI.
2. Lidský dohled: u rozhodnutí s dopadem na lidi (úvěry, nábor, zdraví) mějte skutečné posouzení člověkem.
3. Transparentnost: zákazníkům sdělte, že komunikují s AI, a uveďte, jak získat lidskou pomoc.
4. Kontrola faktů: zejména u právních, zdravotních, finančních a technických tvrzení.
5. Smlouvy: s dodavateli AI řešte odpovědnost, zabezpečení, umístění dat, využití dat k trénování, garance a reakci na incidenty.
6. Podmínky a vyloučení odpovědnosti: pečlivě je čtěte, ale vědomě počítejte s tím, že nemusí zbavit odpovědnosti vůči zákazníkům.
7. Logování a dokumentace: pro případ sporu doložíte, jak systém fungoval a jak jste postupovali.
8. Testování a monitoring: pravidelně testujte chyby a zaujatost; viz Rizika AI: bias a diskriminace.
9. Pojištění: zvažte, zda pojistky kryjí škody způsobené AI.
10. Plán incidentů: kdo komunikuje, jak se řeší reklamace a jak se opravuje systém; viz Kybernetický incident v malé firmě.
11. Při škodě: uschovejte důkazy, informujte poskytovatele, a pokud jde o významnou škodu, obraťte se na právníka.

Odpovědnost uživatele: studenti, zaměstnanci, profesionálové

• Student: za dodržení pravidel školy a pravdivost odevzdané práce; viz AI a plagiátorství: pravidla škol.
• Zaměstnanec: za dodržení firemních pravidel a ochranu dat; viz Únik dat do AI chatbotů.
• Profesionál (právník, lékař, auditor): za profesní péči; AI je pomocník, nikoli náhrada úsudku.
• Tvůrce obsahu: za porušení práv třetích osob a zavádějící obsah; viz Etika AI a autorská práva.
• Běžný uživatel: za nepravdivé tvrzení o jiných osobách a za rozšiřování podvržených materiálů; viz Dezinformace a AI propaganda.

Odpovědnost za chyby AI v kostce

Základní údaje – vlastní infografika

Výhody a nevýhody

Souhrn pro uživatele – vlastní infografika

Související články

V kategorii Bezpečnost, etika a rizika AI najdete také Prompt injection, AI agenti: bezpečnostní rizika a Bezpečné používání AI: checklist.

Shrnutí

AI nenese odpovědnost, nesou ji lidé a firmy: ten, kdo AI nasadil, a ten, kdo její výstup použil. Případ Air Canada ukazuje, že firma odpovídá za svého chatbota, případ advokátů s vymyšlenými rozsudky, že výstup AI je nutné ověřit. Evropská úprava se vyvíjí: AI Act stanoví povinnosti, směrnice o odpovědnosti za AI byla podle zpráv stažena a nová směrnice o vadných výrobcích zahrnuje software. Zaveďte pravidla, lidský dohled, smlouvy a dokumentaci a konkrétní případy konzultujte s právníkem.

Často kladené otázky k odpovědnosti za chyby AI