Jak poznat deepfake: návod na odhalení falešného videa, fotky i hlasu

Jak poznat deepfake, když umělá inteligence dnes dokáže vytvořit video, fotku nebo nahrávku hlasu, které na první pohled vypadají naprosto skutečně? Deepfake je obsah vytvořený nebo upravený pomocí AI tak, aby zobrazoval člověka, který něco řekl nebo udělal, i když se to nikdy nestalo. Neexistuje jeden zaručený trik, jak ho odhalit. Existuje ale soubor znaků a kontrolních kroků, které výrazně zvyšují šanci, že se nenecháte oklamat. V článku je projdeme jeden po druhém a vysvětlíme i to, jak deepfake obsah upravuje evropský AI Act.

Co je deepfake a proč na tom záleží

Slovo deepfake vzniklo spojením „deep learning“ (hluboké učení) a „fake“ (podvrh). Původně označovalo videa s vyměněným obličejem, dnes se používá pro jakýkoli realisticky vypadající falešný AI obsah: fotky, videa, nahrávky hlasu i jejich kombinace.

Deepfake sám o sobě nemusí být škodlivý. Používá se ve filmu, v reklamě, v dabingu nebo pro satiru. Problém nastává, když se vydává za skutečnost: při podvodech, šíření dezinformací, poškozování pověsti nebo šikaně. Konkrétní podvodné scénáře, jako jsou falešné telefonáty šéfa nebo vnuka, a obranu proti nim popisujeme v článku AI podvody: jak se bránit. Tady se soustředíme na samotné rozpoznání.

Jak poznat deepfake video a fotku: vizuální znaky

Generátory se rychle zlepšují a mnoho dříve typických chyb už mizí. Přesto stojí za to se zaměřit na tato místa:

• Obličej a jeho okraje. Rozmazané nebo „plovoucí“ okraje kolem tváře, vlasů a uší, neobvyklé přechody mezi obličejem a krkem.
• Oči a mrkání. Nepřirozený pohled, odlesky v očích, které neodpovídají světlu v místnosti, příliš pravidelné nebo naopak chybějící mrkání.
• Ústa a zuby. Pohyb rtů nesedí přesně se zvukem, zuby splývají v jednu plochu, jazyk se chová divně.
• Ruce a detaily. Na fotkách prsty navíc nebo chybějící, zdeformované šperky, brýle, které prolínají s obličejem.
• Světlo a stíny. Stíny padají jiným směrem, než odkud svítí světlo, obličej je osvětlený jinak než zbytek scény.
• Pozadí a text. Deformované nápisy, nesmyslná písmena na cedulích, zkroucené linie budov.
• Kůže. Příliš hladká, „voskově“ dokonalá pleť bez pórů, nebo naopak nepřirozené změny textury při pohybu.

Pomáhá zpomalit video, pozastavit ho na jednotlivých snímcích a zvětšit podezřelá místa. Mnoho chyb je vidět až při bližším pohledu.

Zvukové znaky: falešný hlas

Napodobený hlas se odhaluje hůř než obraz, zvlášť v telefonu, kde je kvalita zvuku nízká. Všímejte si:

• monotónní intonace nebo nepřirozených pauz,
• chybějícího dechu, polykání a drobných zvuků, které k mluvě patří,
• divné výslovnosti jmen, cizích slov nebo čísel,
• emocí, které nesedí k obsahu, například klidného hlasu při údajně dramatické situaci,
• toho, že volající neumí reagovat na nečekanou otázku nebo odbíhá od tématu.

Nejlepší obranou u hlasu není poslech, ale ověření: zavolejte dotyčnému zpět na číslo, které znáte.

Kontrola kontextu: nejdůležitější krok

Technické znaky mohou chybět, kontext ale prozradí mnoho. Než falešnému AI obsahu uvěříte nebo ho začnete sdílet, položte si několik otázek:

1. Kdo obsah zveřejnil jako první? Je to důvěryhodné médium, oficiální účet, nebo anonymní profil vytvořený před pár dny?
2. Píší o tom i jiné zdroje? Pokud by známý politik skutečně řekl něco šokujícího, budou o tom informovat seriózní zpravodajské servery.
3. Odpovídá to člověku? Mluví a chová se tak, jak ho znáte? Sedí místo, oblečení a okolnosti?
4. Na jaké emoce to cílí? Obsah, který ve vás vyvolá silné rozhořčení, strach nebo nadšení, je vytvořen tak, abyste ho sdíleli bez přemýšlení.
5. Co po vás chce? Kliknout, zaplatit, investovat, přeposlat? To je silný varovný signál.

Dezinformace a AI jsou nebezpečná kombinace právě proto, že falešný obsah lze vyrobit rychle a ve velkém. Kritické myšlení je proto stejně důležité jako technické znalosti. Více o tom píšeme v článku co je AI gramotnost.

Zpětné vyhledávání obrázků

Užitečným nástrojem je zpětné vyhledávání obrázků. Nahrajete fotku nebo snímek z videa do vyhledávače obrázků a zjistíte, kde všude se na internetu objevila. Často tak odhalíte, že:

• fotka je stará a pochází z úplně jiné události,
• původní video ukazuje jinou scénu a někdo do něj vložil jiný obličej nebo zvuk,
• obrázek se poprvé objevil na webu, který se specializuje na AI generovaný obsah.

Zpětné vyhledávání nabízí několik velkých vyhledávačů. U videa pořiďte snímky obrazovky z klíčových momentů a vyhledejte je jednotlivě.

Původ obsahu a obsahová pověření

Vedle hledání chyb se rozvíjí i opačný přístup: místo odhalování falešného obsahu prokazovat původ toho skutečného. Některé fotoaparáty, editory a AI nástroje už umějí k souboru připojit informace o tom, kdo ho vytvořil, čím a jak byl upraven. Těmto metadatům se obecně říká obsahová pověření (content credentials). Někteří poskytovatelé AI také do generovaných obrázků vkládají neviditelné vodoznaky.

Tyto technologie zatím nejsou rozšířené všude a metadata lze při sdílení nebo úpravě souboru ztratit. Když ale informace o původu dostupné jsou, stojí za to je zkontrolovat. Jejich absence naopak sama o sobě neznamená, že je obsah falešný.

Zákon proti deepfake: označování podle AI Actu

Evropský AI Act, tedy nařízení EU o umělé inteligenci, obsahuje v článku 50 povinnosti transparentnosti. Zjednodušeně řečeno: kdo pomocí AI vytváří nebo upravuje obrazový, zvukový či video obsah, který se vydává za skutečný (deepfake), má tuto skutečnost zveřejnit. Poskytovatelé AI systémů, které generují syntetický obsah, mají navíc zajistit, aby byl výstup označen ve strojově čitelné podobě a dal se rozpoznat jako uměle vytvořený.

Nařízení počítá s výjimkami, například pro zjevně uměleckou, satirickou nebo fiktivní tvorbu, kde se povinnost označení uplatňuje v omezené podobě. Podle současného znění se povinnosti z článku 50 mají uplatňovat od 2. srpna 2026, termíny se ale mohou upravit. Podrobnosti budou dále zpřesňovat pokyny a kodexy na úrovni EU.

Pro firmy to znamená zkontrolovat, zda ve své komunikaci, marketingu nebo produktech AI generovaný obsah používají, a nastavit pravidla jeho označování. Přehled celého nařízení najdete v článku co je AI Act, praktické kroky v článku příprava firmy na AI Act.

Tento článek slouží k obecné informaci a není právní poradenství. U konkrétní situace se obraťte na advokáta.

Shrnutí: jak poznat deepfake v praxi

Na otázku jak poznat deepfake neexistuje jediná odpověď. Pomáhá kombinace kroků: všímat si vizuálních a zvukových nesrovnalostí, kontrolovat kontext a původní zdroj, použít zpětné vyhledávání obrázků a sledovat informace o původu obsahu. Nejdůležitější je ale zpomalit a nesdílet nic, co jste si neověřili.

Pokud vaše firma s AI generovaným obsahem pracuje nebo se chce připravit na povinnosti z AI Actu, doporučujeme školení AI Act. Jak se AI obrázky a videa vytvářejí a kde jsou jejich limity, ukazuje kurz AI grafiky a videa. Školení pro celý tým připravíme také formou firemního školení AI.