Dříve jsme videu, hlasu známého člověka či oficiálním dokumentům mohli věřit. AI však rozšířila možnosti úprav obsahu, a tím změnila pravidla kyberbezpečnosti. Jak rozeznat skutečný obsah od podvrhu? A existuje nástroj, který s tím umí pomoct?
Technologie dnes dokážou vytvořit věrohodné video, napodobit hlas nebo upravit fotografii či vygenerovat personalizovanou zprávu doslova na počkání. V tomto obsahu se pak objevují lidé na místech, kde nikdy nebyli, můžete od nich číst a slyšet věci, které nikdy neřekli, a vidět je vystupovat v nereálných situacích ve videích. Zatímco dříve byly podobné úpravy doménou filmových studií, dnes jsou díky umělé inteligenci dostupné prakticky každému. Takovému upravenému obsahu se říká deepfake a právě teď žijeme v době, kdy deepfaky rezonují s byznysem i běžnou společností.
AI jako akcelerátor kyberkriminality
Ne každý syntetický obsah je automaticky problém. Umělá inteligence dnes pomáhá s tvorbou prezentací, marketingových materiálů, překladů nebo se zákaznickou komunikací. Na pracovním poli tak skutečně pomáhá ušetřit čas. Problém ale nastává ve chvíli, kdy cílem není pomoci, ale někoho zmást, zmanipulovat nebo ho přimět k určitému jednání. Nebezpečná tak není samotná technologie, ale možnosti, které nabízí v nesprávných rukách.
Vývoj deepfake technologií patří podle Europolu mezi nejvíce znepokojivé trendy současné kyberbezpečnosti. Generativní AI umožňuje vytvářet stále přesvědčivější syntetický obsah, který je současně jednodušší vyrábět a obtížnější rozpoznat.
Právě tuto schopnost spojuje Europol s rostoucím rizikem podvodů, vydírání a krádeží identity. Například k naklonování lidského hlasu stačí jen několik sekund kvalitního zvukového záznamu. Pro firmy to znamená zásadní změnu – zatímco dříve byly podobné útoky časově i technicky náročné, generativní AI teď umožňuje zločincům ve velkém vytvářet přesvědčivé podvody cílené na zaměstnance, management i obchodní partnery.
Výroba syntetického obsahu dostupného na dark webu zlevňuje
Podle INTERPOLu jsou na dark webech dostupné tzv. „synthetic identity kits“, tedy celé balíčky syntetických identit obsahující AI generované avatary, klonované hlasy nebo biometrická data. Dark web představuje skrytou část internetu, která není běžně přístupná přes standardní internetové vyhledávače a často slouží jako tržiště pro nelegální zboží a služby. K vytvoření důvěryhodné falešné identity navíc často stačí několik veřejně dostupných fotografií a krátká hlasová ukázka.
AI umožňuje zločincům pracovat rychleji, ve větším měřítku a s vyšší mírou přesvědčivosti. Jen za prvních sedm měsíců roku 2026 řešila Policie ČR více než 14 000 kybernetických trestných činů. Zneužity byly i osobní údaje reálných pracovníků institucí včetně pracovníků Národního úřadu pro kybernetickou a informační bezpečnost (NÚKIB). Policie ČR už také veřejně popsala jednotlivé deepfake a AI-manipulační podvody se škodami přesahujícími 3,7 mil. Kč na jednu oběť.
K odhalení deepfaků už nestačí hledat chyby v obraze nebo zvuku
O deepfacích se začalo ve větší míře mluvit na začátku 20. let nového tisíciletí. Tehdy, abyste podvod odhalili, si stačilo všimnout nepřirozených očí, zvláštních pohybů rtů, přebývajících nebo zvláštně zkroucených končetin, podivné mimiky nebo robotického hlasu. Jenomže technologie se vyvíjejí rychle a co bylo nedávno rozpoznatelné, dnes odhalíte jen stěží.
Téma deepfaků není jen téma pro firmy, stejná technologie může být zneužita i proti soukromým osobám, a proto by se měl změnit i způsob, jak deepfaky svépomocí odhalovat. Pouhé hledání grafických nedokonalostí v této fázi technologického pokroku nedává smysl. Důležitější než zkoumat, zda to, co vidíte nebo slyšíte, vypadá skutečně, je položit si otázku, zda to dává smysl v daném kontextu.
Potřeba ověřovat identitu v digitální komunikaci bude do budoucna tedy čím dál důležitější. Vedle bezpečnostních pravidel a osvěty se však objevují také technologie, které pomáhají analyzovat, zda obsah, který vidíte a slyšíte, prošel úpravou AI. Telekomunikační operátoři se dlouhodobě podílejí na zajišťování bezpečné digitální komunikace a dobře znají způsoby, jakými se k lidem dostávají podvodné zprávy, hovory nebo multimediální obsah.
Právě proto mohou své zkušenosti a technologické know-how využít k vývoji nástrojů, které pomáhají zvyšovat důvěru v digitální prostředí a usnadňují orientaci v době generativní AI.
Vodafone jako první operátor v České republice přináší Vodafone Verify, které vzniklo ve spolupráci Vodafone Business a Synhawk. Aplikace pomáhá vyhodnotit, zda fotografie, audio nebo video obsahují známky zásahu umělé inteligence, a poskytuje uživatelům další vodítko při posuzování důvěryhodnosti digitálního obsahu. Nenahrazuje lidský úsudek ani neposkytuje stoprocentní garanci, ale nabízí další vrstvu ověření v situacích, kdy je stále obtížnější rozlišit realitu od manipulace.
