Vodafone uzavřel strategické partnerství s technologickou společností Synhawk, jehož cílem je odhalovat podvody využívající umělou inteligenci přímo na koncových zařízeních. V nadcházejících měsících bude služba pro odhalování AI deepfakes dostupná také v reálném čase během videokonferencí a následně i přímo v síti operátora. Nová řešení pomohou chránit firmy, veřejné instituce i spotřebitele před rychle rostoucí kategorií digitálních hrozeb poháněných umělou inteligencí.
Generativní umělá inteligence otevřela novou kapitolu kybernetické bezpečnosti postavenou na zneužívání lidské důvěry. Útočníci dnes dokážou věrohodně napodobit hlas vrcholového manažera či manažerky, vydávat se za účastníky živých videokonferencí nebo podpořit podvodné pokusy synteticky upravenými dokumenty. Největší veřejně známý útok využívající deepfake technologie připravil britskou inženýrskou společnost Arup o 25 milionů dolarů. Průzkumy zároveň ukazují, že většina lidí si není jistá, zda by deepfake obsah dokázala spolehlivě rozpoznat.
Na situaci reaguje i regulatorní prostředí. Evropský Akt o umělé inteligenci (AI Act) zavádí povinnost transparentně označovat syntetický obsah a směrnice NIS2 zvyšuje požadavky na kybernetickou bezpečnost napříč odvětvími. Vodafone svůj projekt rozvíjí v úzkém dialogu s Českým telekomunikačním úřadem o budoucích standardech ochrany před AI generovanými podvody. Ambicí Vodafonu není pouze těmto standardům vyhovět, ale také se aktivně podílet na jejich tvorbě, a to díky naší zkušenosti a odborné znalosti.
„Generativní umělá inteligence zásadně změnila ekonomiku podvodů. Útoky, které dříve vyžadovaly odborné znalosti a značné lidské kapacity, jsou dnes levné, snadno škálovatelné a mnohem sofistikovanější. Naší odpovědností jako operátora je stejným způsobem změnit ekonomiku obrany. Proto jsme mezi prvními v Evropě, kdo zákazníkům a zákaznicím přináší detekci deepfake obsahu v reálném čase, od mobilní aplikace až po síťovou vrstvu,“ uvádí Violeta Luca, generální ředitelka Vodafonu v České republice.
„Deepfakes, syntetické identity a AI generované podvody představují jednu z největších bezpečnostních výzev digitální éry. Ochrana autenticity lidské komunikace se stává novou kategorií digitální bezpečnosti. Velmi si vážíme důvěry, kterou nám Vodafone dal, a oceňujeme jeho ambici být mezi prvními operátory, kteří toto téma aktivně řeší a pomáhají určovat budoucí standardy důvěryhodné komunikace v době umělé inteligence,“ říká Lukáš Foral, CEO a spoluzakladatel společnosti Synhawk.
Díky partnerství se společností Synhawk nabídne Vodafone ochranu na třech úrovních. První z nich bude mobilní aplikace pro ověřování digitálního obsahu Vodafone Verify. Druhou bude představovat služba zabezpečující online schůzky Vodafone Verify Meetings. Třetí úroveň, Vodafone Verify Network, přinese detekci podvodného obsahu přímo v síti operátora. Technologie byla vyvinuta Maty Boháčkem, výzkumníkem v oblasti umělé inteligence a deepfake technologií na Stanfordově univerzitě a spoluzakladatelem společnosti Synhawk.
„Povaha a tempo podvodů s využitím umělé inteligence zpochybňují předpoklady, na kterých byla postavena konvenční ochrana komunikace. Efektivní obrana musí být založena na neustálém výzkumu a integrována přímo do vrstvy infrastruktury, kde komunikace probíhá, což z Vodafonu dělá přirozeného partnera. Vytvořili jsme základní modely, které analyzují veškerý dostupný kontext, a tím posuzují holistickou integritu signálu při jeho pohybu po síti. Jsme nadšeni, že můžeme i nadále rozvíjet náš výzkum a zpřístupňovat ho zákazníkům prostřednictvím tohoto partnerství,“ dodává Maty Boháček.
Vodafone Verify: aplikace pro ověřování digitálního obsahu
Aplikace Vodafone Verify pro mobilní zařízení zahrnuje také nástroje pro ověřování digitálního obsahu a identity, které mají uživatelům a uživatelkám pomoci lépe se orientovat v prostředí, kde se stále častěji objevuje synteticky vytvořený nebo upravený obsah.
Řešení je založeno na principu ověřování přímo v zařízení uživatele a umožňuje analyzovat různé typy obsahu, například hlasové zprávy z komunikačních aplikací typu WhatsApp, Messenger apod., fotografie nebo videa. Lidé tak mohou získat rychlou informaci o důvěryhodnosti obsahu ještě předtím, než na něj zareagují. Tímto způsobem se lze vyvarovat podvodům spojeným například s falešnými žádostmi o peníze od rodinných příslušníků nebo třeba pokusům o podvody během obchodních transakcí.
Aplikace bude funkční na operačních systémech Android a iOS. Vodafone ji začne nabízet všem svým zákazníkům a zákaznicím včetně firem a veřejných institucí již během podzimu.
Vodafone Verify Meetings: online meetingy v bezpečí
Technologie Vodafone Verify Meetings pomůže v reálném čase řešit konkrétní nebezpečné scénáře zejména z byznysové praxe, jako jsou falešné pokyny od vedení firem, podvody na zákaznických linkách nebo jiné manipulace během videokonferencí, a to skrze speciálního cloudového AI agenta zajišťujícího jistotu, že videokonference se neúčastní žádný deepfake. Efektivně tak chrání účastníky a účastnice online meetingů proti deepfake AI hrozbám. V neposlední řadě pak vychází vstříc regulatorním požadavkům na zajištění bezpečné komunikace a připravuje firmy na nové standardy v oblasti kyberbezpečnosti a digitální identity.
Služba bude určena pro podnikatele, firmy i veřejné instituce a bude spuštěna v novém roce.
Vodafone Verify Network: bezpečná síť budoucnosti
Technologie Vodafone Verify Network představuje nástroj budoucnosti na zajištění ochrany telefonních hovorů proti AI deepfakes přímo v síti operátora. Tato technologie umožní upozornit zákazníka nebo zákaznici na to, že jim volá synteticky upravený hlas, již během hovoru. Vodafone a Synhawk tak společně připravují automatizované řešení pro odhalování příští velké generace podvodů za využití tzv. AI farem.
Budoucí nasazení tohoto technologického řešení tak cílí na ochranu jednotlivců, a to zvláště těch nejzranitelnějších, stejně jako firem, ještě předtím, než začneme sčítat dalekosáhlé škody jako tomu bylo v minulosti v případě spoofingu, tedy podvržených hovorů zejména ze zahraničí.
