L'immagine sullo schermo è quella di un uomo bianco più anziano, barba brizzolata, sguardo rassicurante. Durante una videochiamata su Skype (che oggi smetterà di esistere), si rivolge a una donna, anch'essa anziana, che sembra trovarsi in auto. "Almeno ora vedo che sei molto più splendida e bella di quanto non fossi nella foto che mi hai mandato", dice lui, con un sorriso. Lei ride, lusingata. "Penso che dovrei mandare la sicurezza per tenerti al sicuro, così nessuno si avvicina", aggiunge lui. La donna ride ancora più forte, rassicurandolo che starà bene. Questa scena, apparentemente un innocuo scambio tra due persone che si stanno conoscendo online, nasconde una realtà inquietante.
Questo non è un caso isolato, ma la nuova, allarmante frontiera delle frodi digitali. Come riportato da 404 Media, che ha monitorato per mesi la diffusione di questa tecnologia nei canali Telegram dedicati alle frodi, i truffatori sono ora in grado di manipolare digitalmente il proprio aspetto in tempo reale per corrispondere a una foto su un documento d'identità, un profilo di incontri o persino a quella di una celebrità. Diventano camaleonti digitali, capaci di nascondere la loro vera identità con un semplice laptop, uno smartphone e software relativamente accessibili, ottenendo risultati spaventosamente realistici.
"È molto meglio ora", ha confidato a 404 Media via Telegram Format Boy, un autodefinitosi "Yahoo Boy di alto profilo". Gli Yahoo Boys sono truffatori, tipicamente basati in Nigeria, noti storicamente per l'uso di email Yahoo nelle loro truffe, ma che ora hanno ampliato il loro raggio d'azione a ogni tipo di schema fraudolento. "Prima non potevamo fare certe cose; ora possiamo".
La tecnologia deepfake non è nuova. Molti hanno ormai familiarità con le pubblicità ingannevoli sui social media che utilizzano versioni deepfake di celebrità come Taylor Swift, Joe Rogan, Arnold Schwarzenegger o Sylvester Stallone per promuovere prodotti discutibili, da piani Medicare a integratori per la disfunzione erettile. Tuttavia, quei video erano pre-renderizzati: file statici registrati, perfezionati nel tempo e poi caricati online.
La vera svolta per i truffatori risiede nella capacità di utilizzare i deepfake in tempo reale. Questo permette loro di interagire direttamente con la vittima, improvvisando durante videochiamate o live stream, invece di affidarsi a script predefiniti. Possono apparire umani quanto la persona che stanno impersonando, ingannando non solo individui vulnerabili ma potenzialmente anche i sistemi automatici di verifica dell'identità (noti come KYC, Know Your Customer) richiesti, ad esempio, per aprire conti presso istituzioni finanziarie.
L'evoluzione di questa tecnologia è stata rapida. Se fino a qualche mese fa i risultati osservati sui canali dei truffatori erano spesso goffi e innaturali – tentativi di animare foto per aggirare i controlli delle piattaforme di criptovalute, o video poco convincenti – la qualità è recentemente migliorata in modo esponenziale. I truffatori ora dimostrano di poter sostenere intere videochiamate per periodi prolungati mantenendo la loro persona deepfake, come testimoniano numerosi video visionati dalla fonte. In un altro esempio documentato, un uomo attraente con un cappellino da baseball flirta con una donna anziana dall'accento americano durante una videochiamata WhatsApp, per poi rivelare, con una panoramica della telecamera, il suo setup: un laptop, uno schermo gigante con vari software aperti e, significativamente, una ring light (luce ad anello), accessorio ritenuto importante per migliorare il dettaglio e il realismo del deepfake.
Le tecniche utilizzate variano, ma spesso coinvolgono una combinazione di hardware e software specifici. Format Boy, che pubblica tutorial su YouTube e Instagram (sostenendo siano per "scherzi e scopi educativi", mentre su Telegram si vanta di essere uno Yahoo Boy da oltre sette anni), spiega metodi che includono uno smartphone, un laptop, software di screen mirroring, lo strumento di livestreaming OBS per creare una telecamera virtuale, tool NDI per instradare il flusso video e app di faceswap come Amigo AI o Magicam, che permettono di caricare una foto qualsiasi come base per il deepfake. Altre tecniche più avanzate usano strumenti come DeepFaceLive e DeepLiveCam, che richiedono però laptop con potenti schede grafiche (GPU). I truffatori sembrano migrare rapidamente verso le app che offrono risultati di alta qualità a costi inferiori. Spesso, a questo si aggiungono modificatori vocali, software o hardware, per completare l'illusione.
Mentre Format Boy si dice convinto che la tecnologia attuale sia efficace per le truffe romantiche ma non ancora abbastanza buona per aggirare sistematicamente i controlli KYC ("Penso che ci siamo quasi, ma non ancora"), diversi ricercatori nel campo dell'intelligenza artificiale e della cybersicurezza lanciano l'allarme. David Maimon, responsabile delle analisi sulle frodi presso la società di cybersicurezza SentiLink e professore alla Georgia State University, ha dichiarato:
"Stiamo vedendo alcuni dei nostri partner ricevere effettivamente questi deepfake".
Ha descritto casi in cui i truffatori generano un volto nuovo con l'IA, lo sovrappongono a una patente di guida rubata o contraffatta e tentano di aprire conti bancari con questa identità sintetica.
"E quando viene loro chiesto di dimostrare la 'liveness' [l'essere vivi e presenti] con i video, sono in grado di farlo".
Maimon ha aggiunto che la frequenza di questi tentativi è aumentata nell'ultimo anno e ha mostrato un video in cui un deepfake ha superato con successo il processo di verifica dell'identità su CashApp.
Anche Reality Defender, un'azienda che sviluppa soluzioni per rilevare i deepfake per le imprese, conferma un "notevole aumento" delle richieste per integrare i loro prodotti con piattaforme di videoconferenza come Zoom e Teams e per la verifica KYC. Hanno confermato incidenti legati a deepfake in tempo reale segnalati da clienti in Africa, Singapore e Corea del Nord.
Le aziende dietro alcune delle app utilizzate, come Magicam, si dicono all'oscuro dell'uso fraudolento e stanno esplorando soluzioni per prevenire abusi, pur nel rispetto della privacy degli utenti. Amigo AI non ha risposto alle richieste di commento.
La diffusione di queste tecniche, facilitate da figure come Format Boy che sul suo canale Telegram afferma "Sono qui per creare milionari", rappresenta una sfida significativa. La capacità di creare deepfake convincenti in tempo reale abbassa ulteriormente la barriera d'ingresso per frodi sofisticate, mettendo a rischio non solo singoli individui nelle truffe romantiche, ma anche l'integrità dei sistemi finanziari e di verifica dell'identità. La nuova frontiera delle frodi è qui, ed è più credibile e interattiva che mai.