Ormai è allarme deepfake. Durante un convegno dedicato all'argomento, svoltosi ieri a Roma, il capo della Polizia Postale Nunzia Ciardi ha infatti messo in guardia dai rischi, sostenendo che tali soluzioni potrebbero portare a gravi crimini sia in ambito politico che finanziario.
La tecnologia ha radici lontane in ambito accademico, con i primi studi riguardanti la possibilità di manipolare video tramite l'uso di intelligenza artificiale, risalenti addirittura al 1997, ma sarà solo nel 2017 che verrà alla ribalta diffondendosi inizialmente su Reddit e poi dilagando quasi istantaneamente, prima in ambito pornografico, per realizzare filmati hard con personaggi famosi, poi nel revenge porn, arrivando infine in ambito politico e sociale, con i video manipolati di personaggi famosi, come ad esempio Mark Zuckerberg. Ora il rischio sta diventando quindi concreto ed è stato riconosciuto anche ufficialmente.
Secondo la Ciardi infatti le attuali e sofisticatissime tecnologie di deepfake potrebbero consentire di portare a un livello di perfezione prima sconosciuto le attuali truffe informatiche, sempre più diffuse e a volte anche in grado di fruttare bottini milionari, che attualmente si basano su tecniche rozze di social engineering, ad esempio tramite il semplice invio di mail che sembrano scritte dall'amministratore delegato. Col deepfake, quello stesso AD potrebbe mostrarsi in teleconferenza.
Anche Francesco Rutelli, presidente di ANICA e Videocittà, concorda con la Ciardi, sottolineando la necessità che politici e istituzioni, oltre che grandi aziende, si facciano carico di trovare soluzioni al problema, ciascuna nel proprio ambito, per scongiurare pericoli enormi, si pensi ad esempio alla possibilità di manipolare i risultati elettorali.
Se però è positivo che finalmente i settori più istituzionali della società stiano prendendo coscienza del problema, lo stesso non è di così facile risoluzione da un punto di vista meramente tecnico. La manipolazione delle immagini sta diventando così avanzata da mettere in difficoltà anche un'IA nel riconoscere un video originale da uno contraffatto.
Diverse sono dunque le strade che gli scienziati stanno tentando di seguire, dall'introdurre un qualche tipo di watermark nelle immagini che possa garantirne l'autenticità, alla recente soluzione annunciata da Facebook, in cui un algoritmo genera i volti aggiungendovi leggerissime distorsioni, che ne rendono impossibile l'identificazione tramite tecnologie di riconsocimento facciale, proteggendo così i protagonisti dalla possibilità che quel materiale sia utilizzato impropriamente.
Il problema è che la tecnologia avanza costantemente. Lo scorso anno abbiamo visto cos'è in grado di fare la tecnologia Nvidia per la generazione di volti, mentre il recente film Gemini Man ci ha mostrato un Will Smith ringiovanito di 20 anni e inquietamente realistico, interamente realizzato in computer grafica senza l'ausilio di tecniche di de-aging o di motion capture e non può non scorrerci un brivido lungo la schiena.