La FBI ha recentemente diramato un avvertimento riguardante l'aumento dell'utilizzo dell'intelligenza artificiale per creare video falsi da utilizzare in schemi di sextortion, mirati a molestare minori e adulti inconsapevoli o costringerli a pagare riscatti o ad adempiere ad altre richieste.
La sextortion è un problema presente da decenni e sostanzialmente inganna una persona convincendola a fornire un pagamento, una foto esplicita o altro minacciandolo di diffondere immagini compromettenti. In alcuni casi, le immagini in possesso degli aggressori sono autentiche e sono state ottenute da qualcuno che la vittima conosce o da un account violato. Altre volte, gli aggressori affermano di possedere materiale esplicito senza fornire prove.
Dopo aver convinto le vittime, gli aggressori richiedono un pagamento in cambio di non divulgare il contenuto a familiari, amici o datori di lavoro. Una vera e propria estorsione. Nel caso in cui le vittime inviino immagini sessualmente esplicite come pagamento, gli aggressori spesso utilizzano il nuovo materiale per prolungare la truffa il più a lungo possibile.
Negli ultimi mesi, secondo l'FBI, si è verificato un aumento nell'utilizzo dell'intelligenza artificiale per creare video falsi che sembrano mostrare persone reali coinvolte in attività sessualmente esplicite. Deepfake per adulti, tremendamente vicini alla realtà e facili da generare grazie agli strumenti disponibili in rete.
Gli aggressori spesso ottengono le foto delle vittime dai social media o da altre fonti e le utilizzano per creare "immagini sessualmente esplicite che sembrano realistiche e somigliano alle vittime, diffondendole poi su social media e forum pubblici". La FBI, in merito a questo aspetto, esorta tutti a prendere precauzioni sui social media, limitando i contenuti troppo facili da rigenerare e impostando livelli di privacy così da evitare che chiunque possa accedere alle proprie foto in costume.