Spazio e Scienze

Amazon si unisce a Facebook e Microsoft nella lotta ai video deepfake

Anche Amazon ha deciso di schierarsi nella lotta ai video manipolati. Il colosso di Seattle infatti ha oggi annunciato la sua adesione alla DeepFake Detection challenge, il contest lanciato da Facebook e Microsoft in collaborazione col consorzio Partnership on AI e accademici di sette diverse università, che mira a trovare nuove e più efficaci soluzioni per riconoscere i video deepfake.

L’azienda contribuirà con 1 milione di dollari in crediti AWS (Amazon Web Services), un sistema che si applica alle fatture per contribuire alla copertura di costi associati ai servizi idonei. I crediti saranno erogati ai ricercatori nel corso dei prossimi due anni. AWS sta anche collaborando con gli altri partner di DFDC per valutare la possibilità di ospitare sul proprio servizio cloud i complessi data set per il riconsocimento dei video deepfake, utilizzando la propria infrastruttura ‎‎scalabile S3. Amazon inoltre affiancherà i ricercatori con i propri esperti dell’Amazon Machine Learning solutions lab.

I video deepfake rappresentano un pericolo concreto e si stanno evolvendo sempre più velocemente, consentendo di creare ora anche video a figura intera, sincronizzare i movimenti labiali con frasi del tutto inventate e persino piazzare la faccia di chiunque all’interno di preesistenti sequenze video, come dimostrato ad esempio proprio in questi giorni dall’app Zao. Non è quindi difficile immaginare che tali soluzioni aprano a scenari piuttosto inquietanti per quanto riguarda sia i rischi per i privati che per la vita pubblica di una società, dove la manipolazione delle notizie potrebbe arrivare a livelli davvero preoccupanti. Per questo è necessario trovare contromisure e trovarle subito.

Il problema è che l’attuale approccio tramite intelligenza artificiale e reti neurali richiede un numero enorme di esempi per essere in grado di distinguere un video deepfake da uno originale. Sarebbe facile ad esempio per un’IA distinguere lo spezzone del film C’Era Una Volta a Hollywood in cui Leonardo di Caprio sostituisce Steve McQueen in una sequenza di la Grande Fuga, se appunto tra gli esempi disponibili all’analisi ci fosse anche il film originale. Se invece un individuo qualunque dovesse falsificare un video e immetterlo in rete, riconoscerlo sarebbe assai più arduo.

Purtroppo cambiare approccio al modo in cui l’IA riconosce le cose è una questione complessa che non potrà avverarsi nel breve periodo, anche se inizia già a essere dibattuta tra gli scienziati. Per questo il contest mira non tanto a trovare soluzioni in grado di fermare per sempre i deepfake, ma mettere a punto modi che rendano più difficile e costoso manipolare i video.‎

Preoccupati per l’impatto di deepfake e altre tecnologie simili sulla società e sul mondo della comunicazione? The Reality Game fa il punto della situazione, analizzando tecnologie, soluzioni e possibili scenari.