L'industria dei deepfake pornografici, alimentata dai più avanzati strumenti dedicati all'intelligenza artificiale, sta crescendo in maniera esponenziale, oltre a dipendere dai servizi di alcune delle più grandi aziende tecnologiche al mondo. Google, Microsoft, Amazon, CloudFlare e X, difatti, sono solo alcune delle aziende coinvolte in questa controversa realtà.
Una delle figure più celebri del web, Kaitlyn Siragusa (anche come Amouranth), ha recentemente illustrato come la sua quotidianità venga, costantemente, afflitta da questa tendenza. Essendo, quest'ultima, un obiettivo frequente dei creatori di deepfake, su base, pressoché, giornaliera, il suo staff trova del nuovo materiale su Google. Istantaneamente viene presentato, proprio al colosso di Mountain View, un reclamo il quale, dopo aver fatto compilare tutta la modulistica per la rimozione di un link, provvede a intervenire.
Se fino a qua tutto può sembrare ordinaria amministrazione, la Siragusa illustra come questo processo, che richiede tempo ed energie, non possa venir eseguito su base quotidiana per ogni singolo link che viene rinvenuto dal suo staff. Il tutto, ovviamente, perché giganti come Google non prendono le dovute contromisure per contrastare la diffusione di questo materiale.
I deepfake, per chi non lo sapesse, sono dei video manipolati attraverso l'utilizzo di una IA, per applicare il volto, o le fattezze, di una persona, all'interno di un contenuto. Il problema di questa pratica è che, quasi istantaneamente, è stata utilizzata per applicare i volti di personaggi celebri, o di vittime inconsapevoli, su video raffiguranti scene esplicite. Questa tecnica ha, ovviamente, portato a un aumento del traffico, e dei rispettivi guadagni, a tutti i siti del settore a luci rosse ma allo stesso tempo ha creato danni emotivi, d'immagine e finanziari a centinaia di vittime impotenti.
Come accennavamo poc'anzi, la creazione di deepfake pornografici, non consensuali, è in rapida crescita, con un quantitativo di video, creati e distribuiti, che è aumentato di nove volte rispetto al 2019. Solo nello scorso maggio, circa 150.000 video, che hanno realizzato un totale di 3,8 miliardi di visualizzazioni, sono comparsi su 30 dei più famosi siti del settore.
Le grandi aziende tecnologiche, tra cui Google, Microsoft, Amazon e X (precedentemente noto come Twitter), forniscono strumenti, e piattaforme, che agevolano la diffusione di deepfake pornografici. Tuttavia, sta crescendo la pressione pubblica per costringerle a limitare la diffusione di tali contenuti.
Bloomberg, entrato in contatto con molteplici oppositori di questo trend, e altrettanti esperti legali che stanno lavorando ad alcuni casi riguardanti proprio i deepfake, ha riportato che l'opinione più comune è che queste aziende dovrebbero assumersi la responsabilità dei contenuti generati, diffusi o proposti attraverso i loro prodotti, prendendo adeguati provvedimenti per prevenire l'abuso dell'IA a fini pornografici, non risultando complici nei confronti di questa pratica.
È stato analizzato, infatti, quanto risulti importante, per l'industria dei deepfake, la connessione con i servizi delle grandi aziende tecnologiche. Se queste aziende decidessero di opporsi alla creazione, e rispettiva diffusione, di questi contenuti, potrebbero ridurre sostanzialmente la diffusione di questo materiale altamente dannoso, riuscendo a contenere maggiormente il problema, riducendone drasticamente il bacino di utenza.
Google, ad esempio, è il principale responsabile del traffico verso i siti deepfake più noti, mentre fra gli utenti di X, circolano regolarmente contenuti deepfake, in virtù delle poche restrizioni sui contenuti presenti sulla piattaforma social.
È stato fatto notare, inoltre, che alcuni siti web di deepfake si affidano ad alcune fra le più grandi aziende del settore, per la loro infrastruttura di base. Cloudflare fornisce servizi di hosting a 13 dei primi 20 siti web deepfake, mentre, Amazon e Microsoft GitHub offrono dei servizi di hosting che risultano indispensabili per questi siti.
Tutte le persone interpellate da Bloomberg, sperano che intensificando la pressione nei confronti di queste aziende, si possano ottenere dei risultati eticamente concreti, virando verso un iniziale contenimento di questo fenomeno.
Mentre la battaglia contro i deepfake pornografici e non consensuali prosegue, ciò che emerge è la necessità di una maggiore regolamentazione da parte delle varie aziende nei confronti dei contenuti realizzati attraverso le IA. Le nuove tecnologie devono essere sviluppate con la piena consapevolezza delle loro possibili implicazioni negative e per questo motivo devono essere adottate, costantemente, delle misure preventive atte a proteggere le eventuali vittime di un uso improprio di questi mezzi.