Deepfake podvody v praxi. Víte, kde se s nimi setkáte nejčastěji?

Takzvaný deepfake, tedy obsah vytvořený nebo upravený pomocí umělé inteligence, dnes jen stěží poznáte. Text, obrázek nebo video působí totiž zcela věrohodně. Grafické nedokonalosti, které byly ještě před pár let zpátky patrné na první pohled, už dnes pouhým okem leckdy neodhalíte. Hlavním problémem přitom není samotná technologie. AI dnes pomáhá ve firmách napříč odvětvími, například s analýzou dat, automatizací rutinních úkolů nebo zákaznickou podporou. Riziko však spočívá v klamavém obsahu, který vás má donutit ke špatnému rozhodnutí.

Evropský parlament ve své zprávě upozorňuje, že deepfake hlasové a video podvody rychle eskalují a představují rostoucí hrozbu pro jednotlivce i firmy. Současně podle průzkumu Ipsos pro Vodafone vyjadřuje až 84 % Čechů obavu, že deepfaky povedou k většímu množství dezinformací a 78 % lidí předpokládá, že kvůli nim přestaneme věřit i skutečným videím.Čísla z výzkumu Ipsos z prostředí firem zase hovoří o tom, že až 91 % firem má o deepfacích nějaké povědomí, ale jen 6 % z nich využívá nějaké speciální detektory, které by pomohly podvod odhalit. Kdy byste měli zpozornět?

Sociální sítě jsou pro deepfaky ideálním prostředím

Cestou do práce projíždíte sociální sítě. Mezi běžnými příspěvky narazíte na video, ve kterém známá moderátorka doporučuje výhodnou investici. Video působí důvěryhodně, vystupuje v něm známá tvář a vše vypadá realisticky. Ve skutečnosti jde ale o obsah vytvořený pomocí umělé inteligence. Tento způsob podvodu není v České republice ničím neobvyklým.  

Sociální sítě jsou pro podobný obsah doslova živnou půdou. Algoritmy totiž zvýhodňují příspěvky, které vyvolávají silné emoce, jako jsou překvapení, pobouření nebo strach. Úspěšné příspěvky s velkým množstvím lajků se s největší pravděpodobností zobrazí i ve vašem feedu. Účelem deepfaků na sociálních sítích bývá

• šíření dezinformací,
• získání větší pozornosti,
• podpora konkrétního názoru,
• finanční obohacení,
• vylákání citlivých údajů,
• nebo přesměrování uživatelů na podvodný web.

Myslíte si, že v práci deepfake poznáte? Jen smysly k odhalení nestačí

Je ráno a vy otevíráte e-mail. Mezi desítkami zpráv vidíte fakturu od známého dodavatele, kterému posíláte platby pravidelně a spolupracujete s ním již řadu let. Logo faktury sedí, grafika je stejná, dokonce souhlasí i číslo objednávky a název projektu. Jenomže při bližším pohledu zjistíte, že došlo ke změně bankovního účtu. A to je na podobných útocích obzvlášť nebezpečné. Útočníci doufají, že nemáte čas a rutinnímu úkolu nebudete věnovat pozornost navíc.

V práci vás může zaskočit také hlasová zpráva od nadřízeného. Hlas poznáváte, vždyť se svým nadřízeným mluvíte téměř na denní bázi. Ve zprávě vám bez problémů zmíní i jména reálných kolegů, a dokonce použije interní terminologii. Moderní útoky využívají veřejně dostupné informace i uniklá data. Proto může zpráva působit důvěryhodně, a přitom být uměle vytvořená za účelem vylákat z vás citlivé informace nebo vás přinutit k chybné akci, kterou bývá často příkaz k platbě nebo třeba kliknutí na rizikový odkaz.

Rodina a přátele v nesnázích? Emoce ovlivňují racionální úvahu

Večer vám přijde hlasová zpráva od blízkého člověka: „Mám problém. Potřebuji rychle poslat peníze. Ozvu se později.“ Hlas zní povědomě, situace působí naléhavě a člověk má přirozenou tendenci okamžitě pomoci. Právě podobné scénáře dnes mezi typické AI podvody řadí i Úřad pro ochranu osobních údajů, který upozorňuje na deepfake hlasové a textové zprávy od rodiny.

Útočníci umí z dostupných dat na internetu složit profil a vytvořit podvod doslova na míru nebo postupně ukrást vaši identitu a využít ji k podvodu na někoho dalšího. K tomu jim často pomáhají fotografie, videa a hlasové záznamy, které o sobě sami sdílíme online. Současné AI nástroje navíc dokážou vytvořit přesvědčivou imitaci hlasu už z několika sekund nahrávky, v některých případech přibližně z 5 až 10 sekund čistého mluveného projevu. Čím více materiálu mají, tím věrohodněji může obsah působit. Deepfaky jsou dnes již běžnou součástí podvodů zaměřených na firmy i jednotlivce.

Že něco vypadá a zní důvěryhodně, už dnes jako důkaz pravosti nestačí

I když se to nečte dobře, dnes už se nemůžete spoléhat, že rozeznáte uměle vytvořený text, obrázek či video pouhým okem nebo sluchem. To je často prakticky nemožné. Stále důležitější je používat kombinaci ověřovacích postupů, interních procesů a specializovaných nástrojů. Ve firmách je nutné neustále proškolovat zaměstnance. Právě oni jsou nejzranitelnějším místem celé organizace. Manipulativní techniky jsou přitom vždy stejné. Dostat vás do časové tísně, vyvolat strach z následků, rozhodit vás, vyvolat silné emoce, pod kterými budete jednat iracionálně.

Pro lepší rozhodování v situacích, které jsme popsali v článku, vám pomůže aplikace Vodafone Verify. Je velmi intuitivní a výsledek získáte během několika vteřin. Jednoduše do aplikace nahrajete text, video, obrázky nebo audio. Sdílet můžete také příspěvky přímo ze sociálních sítí. Vodafone Verify vám během několika vteřin vyhodnotí na základě analýzy obrazu, zvuku a původu souboru, zda se jedná o obsah upravený AI či nikoli a zároveň zhodnotí míru rizika.