Úvod > Články > Vodafone připravuje ochranu proti deepfake podvodům v reálném čase

Vodafone připravuje ochranu proti deepfake podvodům v reálném čase

Podvodníci stále častěji využívají umělou inteligenci k napodobování hlasu nebo obrazu jiných lidí. Vodafone proto oznámil partnerství s českou technologickou společností Synhawk a připravuje několik služeb, které mají podobné útoky odhalovat už během komunikace.

První na řadu přijde aplikace Vodafone Verify. Poběží přímo v telefonu a bude analyzovat hlasové zprávy, fotografie nebo videa. Smyslem je upozornit uživatele, pokud systém vyhodnotí obsah jako podezřelý nebo uměle vytvořený. Vodafone počítá s tím, že aplikaci nabídne během podzimu pro Android i iOS.

Dalším krokem bude služba Vodafone Verify Meetings, zaměřená hlavně na firmy a veřejné instituce. Při videokonferencích má v reálném čase ověřovat, jestli některý z účastníků nepoužívá synteticky vytvořený obraz nebo hlas. Podle operátora má pomoci například proti podvodným pokynům vydávaným za vedení společnosti nebo jiným manipulacím během online schůzek.

Nejzajímavější část projektu ale míří přímo do mobilní sítě. Vodafone Verify Network má v budoucnu rozpoznat podezřele upravený hlas přímo během telefonního hovoru a na možné riziko upozornit volaného. Pokud se projekt podaří dotáhnout do komerčního provozu, půjde podle společnosti o jedno z prvních podobných řešení mezi evropskými operátory.

Vodafone upozorňuje, že s rozšířením generativní umělé inteligence výrazně přibylo podvodů založených na důvěryhodně napodobeném hlasu nebo videu. Připomíná případ britské společnosti Arup, která po deepfake útoku přišla o 25 milionů dolarů (529 milionů korun). Zároveň odkazuje na průzkumy, podle nichž si většina lidí není jistá, že by podobně upravený obsah dokázala spolehlivě poznat.

Technologii vyvíjí česká společnost Synhawk. Na jejím vzniku se podílí výzkumník Maty Boháček, který se zabývá umělou inteligencí a deepfake technologiemi na Stanfordově univerzitě. Vodafone zároveň uvádí, že projekt konzultuje s Českým telekomunikačním úřadem a počítá s tím, že nové služby budou odpovídat připravovaným evropským pravidlům pro oblast umělé inteligence i kybernetické bezpečnosti.