I video deepfake stanno dilagando sempre più, diventando a un tempo sempre più sofisticati e difficili da riconoscere anche per le IA. Allo stesso modo il riconoscimento facciale sta sollevando perplessità e paure sul controllo di massa e sui rischi legati alla privacy. Per questo Facebook AI Research ha annunciato di aver messo a punto una soluzione innovativa per cercare di arginare il problema, un sistema di machine learning in grado di ostacolare gli attuali algoritmi di riconoscimento facciale nell'identificare i volti presenti nei video, al fine di proteggere la privacy e combattere la diffusione dei video deepfake.
Questa tecnica di de-identificazione era già diffusa per quanto riguarda le fotografie, basti pensare ad aziende come D-ID, ma è la prima volta che può essere adottata anche per i video e, sembrerebbe, con ottimi risultati. Dai primi test infatti il metodo ha mostrato di poter contrastare i migliori sistemi di riconoscimento facciale attualmente disponibili.
Il sistema, semplificando al massimo, utilizza un sistema encoder-decoder per generare sia una maschera che un’immagine, producendo così una versione leggermente distorta del volto di una persona per poi incorporarla nel video. Il risultato non è perfetto perché a volte rischia di rendere irriconoscibile un volto, ad esempio quello di un personaggio famoso, anche al pubblico, ma è comunque sufficiente a impedire agli algoritmi di riconoscimento facciale la corretta identificazione del soggetto.
"Il riconoscimento del volto può portare alla perdita di privacy. La tecnologia di sostituzione del volto può essere utilizzata in modo improprio", si legge nel documento della ricerca. "I recenti avvenimenti riguardanti progressi e abusi della tecnologia di riconoscimento facciale allertano sulla necessità di sviluppare metodi efficaci per la de-identificazione. Il nostro contributo è l’unico adatto al video, inclusi quelli dal vivo". Al momento però un portavoce di Facebook ha dichiarato che lo studio rappresenta un semplice proof of concept e che la società non ha intenzione di integrarlo in alcuna delle proprie app.