Co je deepfake?

Deepfake je generativní technologie umělé inteligence, která dokáže napodobit vzhled, mimiku a hlas konkrétní osoby a vytvářet obsah prakticky k nerozeznání od reality. Zjistěte o ní více.

Deepfake je termín, který vznikl spojením slov „deep learning“ (hluboké učení) a „fake“ (padělek). Poprvé se rozšířil v roce 2017 v online komunitě. Dnes se používá nejen pro zábavu a filmové triky, ale také pro dezinformace, vydírání a podvody. Proto je důležité znát jeho možnosti, omezení a pravidla.

Pojem deepfake označuje syntetická média (video, obraz, zvuk), která jsou modifikována nebo zcela generována umělou inteligencí. V minulosti se používaly především autoenkodéry a GAN (Generative Adversarial Networks), dnes se prosazují také difúzní modely, které zvyšují vizuální kvalitu a konzistenci imitace.

Typické formy obsahu deepfake: 

• Výměna obličeje nebo přenos mimiky ve stávajícím záznamu,
• Klonování hlasu z krátkého vzorku nahrávky,
• Generování „mluvících hlav“ na základě textu nebo zvuku.

• Dezinformace a propaganda: falešná prohlášení politiků nebo veřejných osobností. 
• Kybernetické a finanční podvody: deepfake nahrávky hlasu při phishingu, vydírání a krádežích identity.
• Narušení soukromí a poškození reputace: neoprávněné použití podoby nebo hlasu. 

• Film, televize a hry: omlazení, dabing, lokalizace a tvorba digitálních avatarů.
• Vzdělávání a přístupnost: personalizovaná vzdělávací videa, asistenční technologie.

I pro legitimní použití však platí pravidla transparentnosti a souhlasu dotčených osob v souladu s místními právními předpisy.

• Detekční algoritmy: forenzní techniky vyhledávají artefakty v obraze a ve zvuku; jejich úspěšnost však kolísá s tím, jak se zlepšuje kvalita generování.
• Původ a důvěryhodnost obsahu (provenience): standard C2PA/Content Credentials umožňuje přidávat k médiím kryptograficky podepsaná metadata o vytvoření a úpravách. V praxi jej zavádějí média, platformy a výrobci softwaru.

Prozradit ho mohou drobné detaily, například nepřirozený pohyb rtů a zubů, zvláštní frekvence mrkání, nesourodé stíny či odrazy nebo nepravidelný rytmus dýchání. Podezřelý bývá také „plochý“ zvuk bez přirozené hloubky.

Vždy se proto vyplatí ověřit původ souboru pomocí C2PA/Content Credentials, porovnat záznam s dalšími zdroji a zkontrolovat, zda pochází z důvěryhodného mediálního kanálu.