Le IA generative hanno già dimostrato di saper creare avatar identici alle persone reali: online potrebbe esserci una vostra copia creata da un’intelligenza artificiale e che fa le cose più impensabili. Vi sembra impossibile? Forse la storia di oggi vi farà ricredete.
La protagonista è Olga Loiek, una ragazza ucraina di 20 anni che ha un canale YouTube e studia scienze cognitive all’Università della Pennsylvania, che ha scoperto grazie ai suoi follower di avere un clone digitale creato dall’IA chiamato Anna, Natasha o Grace (a seconda della piattaforma social in cui la si incontra) di origine russa, che parla mandarino e ama alla follia la Cina.
"Ho iniziato a tradurre i video con Google Translate e mi sono resa conto che la maggior parte di questi account parla di cose come Cina, Russia, di quanto siano buone le relazioni tra Cina e Russia", ha dichiarato Loiek a VOA. Inutile dire che la ragazza non ha preso per niente bene la cosa, specialmente considerando le proprie origini e le tensioni tra i paesi.
I video in questione si trovano anche su Bilibili, in poche parole lo YouTube cinese, e alcuni di questi presentano il watermark di HeyGen. HeyGen è un’azienda che ha sede a Los Angeles molto all’avanguardia in fatto di IA generativa, specializzata in creazione di avatar realistici, generazione di voci e traduzione di. Video. La tecnologia di HeyGen è stata usata in passato per creare video dove Trump e Taylor Swift parlano mandarino, contenuti diventati in poco tempo virali sui social media cinesi lo scorso anno.
Sulla carta, HeyGen non permette di generare avatar di persone reali senza il consenso esplicito, ma di fatto alcuni utenti sono riusciti a eludere questa forma di controllo, creando i video di Loiek in questione. Dal canto suo, il governo cinese ha già promulgato leggi che regolano i deepfake e altri “servizi di sintesi profonda”, ma sono difficili da far rispettare. Il risultato? Individui come Loiek sono obbligati a difendersi da soli contro questi furti d’identità.
L’enorme crescita degli avatar basati su intelligenza artificiale mette in luce la necessità di regolamentare a dovere questa tecnologia, per proteggere gli individui da episodi spiacevoli, specialmente se gli avatar vengono usati per scopi malevoli.