Společnost Intel představila nástroj FakeCatcher, který je podle ní prvním detektorem deepfakes v reálném čase. Nástroj má 96procentní přesnost a funguje na základě analýzy proudění krve v obličeji a vrací výsledky v řádu milisekund. Informovaly o tom servery TechSpot a The Register.
V posledních letech se na internetu objevuje stále více deepfakes. Ty využívají umělou inteligenci s hlubokým učením k nahrazení podoby jedné osoby jinou ve videu a dalších digitálních médiích. Velmi reálně vypadající deepfakes umožnily šíření mnoha případů dezinformací, hoaxů a podvodů na internetu.
„Deepfake videa jsou teď všude. Pravděpodobně jste je už viděli: videa, na kterých celebrity dělají nebo říkají věci, které ve skutečnosti nikdy neudělaly,“ řekla Ilke Demir, výzkumná pracovnice Intel Labs. A netýká se to jen celebrit, obětí se stali i běžní občané.
Intel detection tool uses blood flow to identify deepfakes with 96% accuracy https://t.co/csGJvpZCML pic.twitter.com/r1hN3b8ULM
— TechSpot (@TechSpot) November 15, 2022
FakeCatcher analyzuje proudění krve v obličeji
Jak uvedl server TechSpot, na rozdíl od většiny detektorů falešných videí založených na hlubokém učení, které se při určování neautentičnosti zaměřují na samotná data, se FakeCatcher zaměřuje na stopy ve skutečných videích. Nástroj pro detekci deepfakes analyzuje jemné barevné změny v obličeji způsobených prouděním krve v žilách. Jedná se o proces zvaný fotopletysmografie neboli PPG.
V nástroji FakeCatcher jsou PPG signály shromažďovány z 32 míst na obličeji. Poté jsou z časových a spektrálních složek vytvořeny PPG mapy. „Vezmeme tyto mapy a nad nimi vycvičíme konvoluční neuronovou síť, která je klasifikuje jako falešné nebo skutečné,“ řekla Demir. Díky technologiím společnosti Intel, jako je framework Deep Learning Boost a Advanced Vector Extensions 512, se může nástroj spustit v reálném čase.
V kombinaci s detekcí pohledu očí dokáže tento nástroj určit, zda je video skutečné, během milisekund a s 96% přesností. Společnost dodala, že platforma využívá procesory Xeon Scalable třetí generace s až 72 souběžnými detekčními toky a dá se ovládat skrz webového rozhraní.
Je stále důležitější mít software, který dokáže spolehlivě identifikovat deepfakes. V minulosti podvodníci používali deepfakes k tomu, aby se vydávali za uchazeče o zaměstnání a získali přístup k citlivým firemním informacím. Byly také použity k vydávání se za významné politické osobnosti, aby pronášely pobuřující výroky.