YouTube ha introdotto un nuovo strumento per etichettare il contenuto generato da intelligenza artificiale, consentendo ai creatori di identificare autonomamente i video che includono elementi creati usando tale tecnologia.
La nuova funzionalità richiede ai creatori di indicare, ed etichettare, il contenuto "alterato" che appare realistico durante il processo di caricamento e pubblicazione dei video.
Questo include manipolazioni come far dire o fare a una persona reale qualcosa che non ha effettivamente fatto, modificare le riprese di eventi reali o luoghi, o mostrare scene che sembrano reali ma non sono mai accadute.
YouTube offre esempi quali mostrare un finto tornado che si muove verso una città reale o l'utilizzo di voci deepfake per far narrare un video a una persona reale.
Tuttavia, non è necessario divulgare cose come i filtri di bellezza, effetti speciali come lo sfocato dello sfondo, né il "contenuto chiaramente irrealistico" come, per esempio, video di animazione, risulterà però obbligatorio indicare il contenuto coperto da copyright.
Nel novembre scorso, YouTube ha delineato la sua politica sul contenuto generato con l'IA, stabilendo due livelli di regolamentazione: delle regole rigide per proteggere le etichette musicali, e gli artisti, e una serie di linee guida più flessibili per gli altri tipi di contenuto.
Per farvi comprendere meglioo come funzionano queste regolamentazioni: la musica deepfake può essere rimossa se non piace all'artista. YouTube affermò che i creatori sarebbero stati tenuti a divulgare il materiale generato da IA, ma fino a oggi non aveva chiarito come.
Permane, però, un problema. Se una persona diventa oggetto di un deepfake su YouTube, potrebbe comunque essere difficile, o per lo meno complesso, far rimuovere il contenuto rapidamente, poiché il processo di denuncia richiede la compilazione di un modulo di richiesta di privacy che l'azienda esaminerebbe in un secondo momento, lasciando il video online sulla piattaforma fino al termine delle indagini.
Inoltre, il software di rilevamento dell'IA di YouTube, è famoso per essere molto inaccurato; l'azienda sta, difatti, investendo in una serie di nuovi strumenti per migliorare la sua capacità di individuare i contenuti generati attraverso le IA.
Infine, YouTube, si mantiene il diritto di aggiungere un'etichetta indicante del contenuto generato con l'IA, ai video presenti sulla piattaforma, nel caso gli utenti non lo facciano propriamente durante la fase di upload.
Per quanto riguarda questo specifico aspetto, YouTube si premunirà di mostrare etichette più evidenti (non è stato spiegato in che termini) se il contenuto alterato risulti capace di confondere, o ingannare, gli spettatori, in particolar modo su video che trattano tematiche sensibili quali salute, elezioni e finanza.
La nuova funzionalità di YouTube, al netto di tutti questi aspetti, si basa principalmente sull'onestà dei creatori, i quali devono essere trasparenti su ciò che compare nei loro video.