Téměř čtvrtina Čechů a Češek se už osobně nebo zprostředkovaně setkala s podvodem využívajícím umělou inteligenci. AI dnes totiž dokáže vytvářet obsah, který působí velmi autenticky. Lidé i organizace tak čelí nové výzvě: Čemu a komu lze věřit? Podle nového průzkumu agentury Ipsos pro Vodafone 86 % lidí očekává, že počet AI podvodů bude během příštích dvou let dále narůstat. Zároveň si třetina dotázaných nevěří, že by dokázala rozpoznat deepfake video. Vodafone proto přichází s aplikací Vodafone Verify, která odhalí známky AI manipulace u fotografií, videí, hlasových zpráv a dokumentů.
Dvaasedmdesátiletý muž z Olomoucka viděl na internetu video se známým českým politikem. Ve videu doporučoval výhodnou investici. Nahrávka působila věrohodně, a tak muž vyplnil kontaktní formulář. Krátce nato ho oslovil údajný finanční poradce. Následovaly telefonáty, instalace softwaru pro vzdálený přístup a převody peněz. Během tří měsíců senior přišel o více než milion korun. Politik přitom nikdy žádnou investici nepropagoval. Jeho tvář i hlas se staly součástí podvodu vytvořeného pomocí AI. Případ na svých stránkách popsala policie. Dotyčný senior není sám, podvodníci využívají umělou inteligenci stále častěji při investičních podvodech, krádežích identity, ale i útocích na firmy.
Umělá inteligence mění důvěru
Podle průzkumu agentury Ipsos pro Vodafone má 24 % lidí v Česku osobní nebo zprostředkovanou zkušenost s AI podvodem. Pouze třetina oslovených ale ví, co pojem deepfake skutečně znamená. Zároveň 33 % lidí nevěří, že by dokázali rozpoznat deepfake video, a 41 % pochybuje o své schopnosti odhalit fotografii vytvořenou či manipulovanou pomocí AI. Sedm z deseti lidí by přitom ocenilo službu od svého operátora, která pomůže ověřovat pravost digitálního obsahu pro ně samotné nebo jejich blízké.
„Největším rizikem, které umělá inteligence přináší, nejsou jen sofistikovanější podvody. Je jím narušování důvěry v digitální komunikaci. Ve světě, kde lze přesvědčivě zmanipulovat hlas, obraz i dokument, potřebují lidé i organizace nové způsoby, jak ověřovat, co je skutečné. S Vodafone Verify děláme další krok v našem závazku přispívat k bezpečnějšímu a důvěryhodnějšímu digitálnímu světu pro všechny,“ říká Violeta Luca, generální ředitelka Vodafonu.
Firmy pod tlakem AI podvodů
Podobným rizikům čelí i firmy. Devět z deseti odborníků a odbornic odpovědných za IT nebo kyberbezpečnost v průzkumu potvrdilo, že s rostoucím objemem obsahu generovaného umělou inteligencí je stále obtížnější rozpoznat, čemu lze důvěřovat. Přestože 89 % firem očekává další nárůst AI podvodů, pouze 31 % se považuje za dobře připravené jim čelit.
Nejčastějším typem útoku jsou podvodné požadavky na platby nebo změny bankovních účtů prostřednictvím vydávání se za konkrétní osobu. S tímto typem incidentu se setkalo už 31 % firem. 22 % zaznamenalo falešné faktury nebo dokumenty vytvořené či upravené pomocí AI a 9 % evidovalo podezřelé hlasové zprávy nebo hovory vydávající se za někoho z firmy či přímo vedení společnosti.
Přesto se firmy stále spoléhají především na lidský úsudek. Pouze 6 % společností využívá specializované AI detektory nebo software určený k rozpoznávání deepfake obsahu. 90 % firemních expertů přitom věří, že ověřování obsahu by mohlo významně snížit finanční nebo reputační škody, a 73 % by zvažovalo nasazení služby od operátora zaměřené na ověřování deepfake obsahu.
Vodafone Verify: ověřování faktů místo intuice
Vodafone reaguje na rostoucí výzvy spojené s digitální důvěrou spuštěním služby Vodafone Verify, kterou vyvinul ve spolupráci se společností Synhawk. Mobilní aplikace pomáhá běžným uživatelům a uživatelkám, firmám i institucím ověřovat podezřelé fotografie, videa, hlasové zprávy nebo dokumenty ještě před tím, než na jejich základě učiní důležité rozhodnutí. Cílem není pouze pomoci odhalovat potenciální podvody, ale také podpořit nový návyk ověřování v situacích, kdy je důvěra klíčová.
Uživatel jednoduše nahraje soubor nebo odkaz, například příspěvek sdílený na sociálních sítích. Služba následně analyzuje širokou škálu rizikových signálů a poskytne uživateli pravděpodobnostní vyhodnocení společně s vysvětlením. Cílem není nahradit lidský úsudek, ale poskytnout další vrstvu informací, která podpoří informovanější rozhodování.
„Lidé se dnes při rozpoznávání podvodů často spoléhají na vlastní intuici nebo na známky nepřirozenosti v obrazu a zvuku. Jenže právě v tom se umělá inteligence zlepšuje nejrychleji. Ověřování na úrovni platforem a infrastruktury se proto postupně stává stejně důležitým bezpečnostním návykem, jako jsou silná hesla nebo dvoufázové ověřování,“ vysvětluje Maty Boháček, výzkumník v oblasti umělé inteligence a deepfake technologií na Stanfordově univerzitě a spoluzakladatel společnosti Synhawk, který za aplikací stojí.
Budoucnost – ochrana přímo v síti
Aplikace Vodafone Verify je prvním prvkem širší platformy zaměřené na ochranu důvěry v digitální komunikaci. Odráží dlouhodobou ambici společnosti pomáhat zákazníkům orientovat se v digitálním prostředí, kde autenticitu nelze považovat za samozřejmost. Vodafone připravuje služby Verify Meetings, která pomůže identifikovat deepfake účastníky online schůzek, a Verify Network, ochrannou technologii integrovanou přímo do sítě operátora.
Nový digitální reflex: zastav se, ověř, jednej
Podle Policie České republiky patří mezi nejzranitelnější skupiny lidé ve středním a vyšším věku. Obavy z falešných hovorů a videí vytvořených pomocí AI potvrzuje také průzkum Nadace Vodafone mezi lidmi 60+. 38 % z nich se obává, že by nerozeznalo podvodný hlas nebo video vytvořené pomocí AI, a 26 % dokonce o podobných podvodech ani neslyšelo.
V době, kdy lze hlas, podobu i identitu člověka věrohodně napodobit během několika minut, se ověřování stává novým digitálním reflexem. Vodafone Verify pomáhá lidem, firmám i institucím tento reflex osvojit prostřednictvím jednoho jednoduchého návyku: zastavit se, ověřit si informace a teprve potom jednat. V éře AI už nejde jen o to, zda se k nám komunikace dostane. Jde také o to, zda jí dokážeme důvěřovat.
Pro koho je aplikace Vodafone Verify?
Aplikace je dostupná pro zařízení s operačními systémy Android a iOS od 22. října a je určena jednotlivcům, firmám i institucím. U mobilních tarifů kategorie Black a u velké části firemních tarifů je nově součástí balíčku, ostatní zákazníci a zákaznice si ji mohou aktivovat jako doplňkovou službu za 59 Kč měsíčně bez DPH. Službu je možné zahrnout i do rámcové smlouvy na mobilní služby.
Licenci pro využívání služby lze získat prostřednictvím samoobsluhy Můj Vodafone, aplikace Můj Vodafone+ nebo v rámci OneNet Samoobsluhy pro ty firemní zákazníky, kteří OneNet využívají. Po aktivaci licence si zákazník stáhne aplikaci Vodafone Verify z obchodů App Store nebo Google Play, vytvoří si uživatelský účet a přiřadí k němu svůj licenční klíč. Následně může službu začít využívat.
