Deepfake – co to je, jak vznikají podvody a jak falešné video nebo hlas poznat

Kvíz: Poznáte deepfake?

Deepfake je uměle vytvořené video, zvuková nahrávka nebo obrázek, který pomocí AI přesvědčivě napodobuje skutečnou osobu – její obličej, mimiku i hlas – a dělá nebo říká věci, které se ve skutečnosti nikdy nestaly. Co bývalo před pár lety doménou filmových studií s rozpočtem v milionech, dnes zvládne vytvořit kdokoli s notebookem a pár desítkami korun na měsíční předplatné AI nástroje.

Tento článek vysvětluje, jak deepfake technologie funguje, jaké reálné podvody už napáchala, a především – jak rozpoznat, že se díváte nebo nasloucháte něčemu, co je falešné.

Jak deepfake technicky vzniká

Většina deepfake videí a zvuků vzniká pomocí tzv. generativních neuronových sítí (GAN – Generative Adversarial Networks, nebo novější diffusion modely). Zjednodušeně: algoritmus se "naučí" z velkého množství fotek, videí nebo audio nahrávek konkrétní osoby, jak se tváří, jak pohybuje ústy při mluvení nebo jak zní její hlas – a následně dokáže tyto rysy přenést na jiný obsah.

Klonování hlasu – stačí pár vteřin

Nejděsivější na současné AI je rychlost. Podle českého webu Seznam Zprávy stačí k napodobení hlasu klidně jen asi 30 sekund zvukové nahrávky – třeba z veřejného vystoupení, YouTube videa nebo hlasové zprávy. Novinky.cz cituje experta, podle kterého lze naklonovat i český hlas za přibližně patnáct minut práce. Čím kratší a kvalitnější je vzorek, tím přirozeněji nástroj zní, ale ani krátký útržek dnes není velkou překážkou.

Jak deepfake podvody reálně fungují

Nejčastější vzorec útoku se nazývá "CEO fraud" nebo podvod s falešným vedením firmy:

1. Útočník si pomocí dostupných videí/rozhovorů nakloní hlas (nebo i video) generálního ředitele nebo finančního ředitele firmy.

2. Zavolá nebo video-zavolá zaměstnanci (typicky z finančního oddělení) a vydává se za tuto osobu, přičemž tvrdí, že je potřeba urychleně a důvěrně provést platbu nebo sdílet přístupové údaje.

3. Vytváří tlak na rychlost a utajení ("nemůžu teď mluvit nahlas, jsem na jednání, potřebuju to vyřešit hned") – klasický prvek sociálního inženýrství, jen umocněný tím, že hlas skutečně zní jako hlas šéfa.

Podle průzkumu společnosti Gartner ze září 2026 zažilo 41 % bezpečnostních ředitelů (CISO) alespoň jeden incident s deepfake podvodem přes hlasový hovor se zaměstnancem za posledních 12 měsíců, 36 % zaznamenalo podobný útok přes video hovor. Čísla o konkrétních finančních ztrátách (např. tvrzení o průměrné ztrátě přes 280 000 dolarů na incident nebo projekce 40 miliard dolarů ročně do roku 2027) pochází převážně z marketingových materiálů bezpečnostních firem a je třeba je brát s rezervou – nejde o nezávisle ověřená čísla.

Deepfake podvody se netýkají jen firem. Běžný vzorec cílí i na jednotlivce a rodiny: podvodník naklonuje hlas vnoučka nebo jiného příbuzného a zavolá "babičce", že má problémy a potřebuje okamžitě peníze – klasický tzv. "virtual kidnapping" scam, jen s věrohodnějším hlasem než dřív.

Jak deepfake poznat – praktické varovné signály

U videa

• Nepřirozené mrkání nebo jeho úplná absence – starší modely mívaly problém se správnou frekvencí mrkání.

• Rozmazané nebo "plastické" okraje obličeje, zejména kde se překrývá s vlasy, brýlemi nebo rukama.

• Nesoulad mezi pohybem rtů a zvukem – i malé zpoždění je varovný signál.

• Divné nebo nekonzistentní osvětlení obličeje vzhledem ke zbytku scény.

U hlasu/zvuku

• Neobvykle rovnoměrná intonace bez přirozených pauz na nádech nebo přemýšlení.

• Metalický nebo "sklovitý" podtón zejména u delších vět.

• Volající odmítá video hovor nebo jakýkoli jiný způsob ověření a tlačí jen na audio.

Behaviorální signály (platí univerzálně)

• Extrémní časový tlak – "musí to být hned, jinak..."

• Požadavek na utajení před ostatními kolegy nebo rodinou.

• Neobvyklý způsob platby (kryptoměna, dárkové karty, převod na nový účet).

Jak se chránit – doporučení expertů

Americká Federální obchodní komise (FTC) dává jasné doporučení: "Nevěřte hlasu. Kontaktujte tu osobu jiným způsobem a ověřte, že je to skutečně ona." V praxi to znamená:

• Zavolejte zpátky na známé, dříve uložené číslo, nikdy na číslo, ze kterého přišel podezřelý hovor.

• Ve firmách zavést dohodnuté bezpečnostní heslo nebo frázi pro telefonické schvalování plateb – pokud ji volající neznal, jde o podvod.

• U rodin si domluvit podobné "kódové slovo" pro nouzové situace s příbuznými, zejména staršími lidmi, kteří jsou nejčastějším cílem.

• Nikdy neschvalujte finanční transakci nebo sdílení citlivých údajů jen na základě telefonátu nebo video hovoru – vždy to doplňte o druhý ověřený kanál (e-mail z firemní domény, osobní setkání, SMS na známé číslo).

Reálné případy, které deepfake dostaly do titulků

Hongkongská firma přišla o 25 milionů dolarů

Jedním z nejcitovanějších firemních případů je incident hongkongské pobočky britské projekční firmy Arup z února 2024. Zaměstnanec finančního oddělení se zúčastnil video konference, na které "viděl" i "slyšel" finančního ředitele společnosti a několik dalších kolegů – ve skutečnosti šlo o deepfake rekonstrukci všech účastníků kromě něj samotného, vytvořenou na základě veřejně dostupných videí. Na základě instrukcí z tohoto hovoru postupně provedl 15 bankovních transakcí v celkové hodnotě přibližně 25 milionů dolarů na účty, které si útočníci připravili. Případ je dnes jedním z nejčastěji citovaných důkazů, že i skupinový video hovor s "více lidmi najednou" už není spolehlivým ověřením identity.

Falešný hlas prezidentského kandidáta

V lednu 2024, krátce před primárními volbami ve státě New Hampshire, obdrželi tisíce voličů automatický telefonát s hlasem, který věrně napodoboval tehdejšího amerického prezidenta a nabádal je, aby k volbám nechodili. Americký Federální komunikační úřad (FCC) po vyšetřování potvrdil, že šlo o AI generovaný deepfake hlas, a uložil zodpovědnému konzultantovi pokutu v řádu milionů dolarů a zároveň formálně zakázal používání AI klonovaných hlasů v automatických telefonátech (tzv. robocalls) bez explicitního souhlasu volaného.

Falešné reklamy se slavnými osobnostmi

Běžným jevem na sociálních sítích se staly i podvodné reklamy, které bez souhlasu použijí deepfake hlas a obličej známé osobnosti k propagaci podvodných investičních platforem nebo pochybných produktů. Mezi takto zneužité osobnosti patřili podle veřeřejně dostupných zpráv například herec Tom Hanks (falešná reklama na stomatologický plán) nebo youtuber MrBeast (falešná reklama nabízející telefony za symbolickou cenu) – oba na zneužití svého obrazu veřejně upozornili. Tyto případy ukazují, že deepfake ohrožuje i samotné celebrity, jejichž jméno a obraz jsou zneužity k podvodu na třetích osobách.

Jak na deepfake reagují zákony a technologie

Legislativa v USA a Evropě

Kromě zmíněného zákazu AI hlasů v robocallech v USA přijala řada amerických států (např. Kalifornie, Texas) vlastní zákony cílící konkrétně na deepfake použité ve volební kampani nebo k šíření nekonsenzuálního intimního obsahu. V Evropské unii řeší problematiku především EU AI Act, který od prosince 2026 ukládá povinnost označovat AI generovaný nebo manipulovaný obsah (tzv. požadavek na transparentnost a "watermarking") a výslovně zakazuje nekonsenzuální sexuální deepfake obsah. V českém prostředí lze zneužití deepfake k podvodu, vydírání nebo poškození dobrého jména řešit podle obecných ustanovení trestního zákoníku (podvod, vydírání, pomluva, neoprávněné nakládání s osobními údaji) – samostatný "deepfake paragraf" česká legislativa k roku 2026 nemá.

Technologie prokazující původ obsahu

Jako protiváha k samotným detekčním nástrojům (které se snaží poznat, že obsah je falešný) vzniká i opačný přístup – prokazovat, že obsah je autentický. Standard C2PA (Coalition for Content Provenance and Authenticity), na kterém spolupracují mimo jiné Adobe, Microsoft, Intel a BBC, zavádí do fotografií a videí kryptograficky podepsaná metadata ("Content Credentials") popisující, kde, kdy a jak byl obsah vytvořen nebo upraven. Některé nástroje jako Intel FakeCatcher se naopak snaží detekovat deepfake analýzou drobných biologických signálů v obraze (např. nepatrné změny barvy pokožky odpovídající srdečnímu tepu), které generativní modely zatím věrně nereplikují – žádná z těchto metod ale není stoprocentní a obě strany (tvorba i detekce) se technologicky neustále předhánějí.

Nejčastější dotazy o deepfake (FAQ)

Je vytváření deepfake videí nelegální?

Záleží na účelu a jurisdikci. Vytvoření deepfake za účelem podvodu, vydírání, pomluvy nebo šíření nekonsenzuálního intimního obsahu je v naprosté většině zemí trestné. Nová pravidla EU AI Act navíc od prosince 2026 zavádí povinné značení AI generovaného obsahu a výslovně zakazují generování nekonsenzuálního sexuálního obsahu.

Jak dlouhý zvukový vzorek stačí k naklonování hlasu?

Podle dostupných zdrojů může stačit i pouhých přibližně 30 sekund kvalitní nahrávky, u některých nástrojů i méně – kvalita klonu ale roste s délkou a čistotou vzorku.

Existují nástroje, které deepfake automaticky odhalí?

Ano, existují detekční nástroje pro videa i zvuk, ale podobně jako u AI textových detektorů jejich spolehlivost kolísá a technologie na obou stranách (tvorba i detekce) se neustále předhání. Spoléhat se jen na nástroj bez zdravého úsudku a ověření druhým kanálem je rizikové.

Můžu poznat deepfake podle kvality videa?

Ne vždy – nejnovější modely dosahují velmi vysoké kvality a klasické vizuální chyby (mrkání, rozmazané okraje) u nich často chybí. Spolehlivější je zaměřit se na kontext a behaviorální signály (časový tlak, žádost o utajení, neobvyklý způsob platby).

Co dělat, když jsem se stal obětí deepfake podvodu?

Okamžitě kontaktujte banku kvůli zablokování transakce, nahlaste incident policii a zdokumentujte veškerou komunikaci (nahrávky, zprávy, čísla). U firemních incidentů informujte i IT/bezpečnostní oddělení, aby prověřilo, zda nedošlo k širšímu kompromitování systémů.

Jsou ohroženy jen celebrity a vedení firem?

Ne, čím dál častější jsou útoky cílené na běžné rodiny – typicky klonování hlasu "vnoučka" nebo jiného blízkého příbuzného s žádostí o okamžitou finanční pomoc.

Jak drahé incidenty deepfake podvody napáchaly?

Jeden z nejznámějších případů - hongkongská pobočka firmy Arup v únoru 2024 - přišel o přibližně 25 milionů dolarů poté, co zaměstnanec uvěřil deepfake rekonstrukci celého vedení firmy na skupinovém video hovoru.

Existují zákony přímo zakazující deepfake?

Některé americké státy a instituce (např. FCC v případě robocallů) přijaly cílené zákazy pro konkrétní použití, Česko a většina EU zemí řeší deepfake podvody skrze obecné trestněprávní předpisy (podvod, vydírání, pomluva) a nově i přes povinnosti EU AI Act od prosince 2026.