Midjourney ha posto fine all'utilizzo gratuito del suo generatore di immagini AI a seguito della creazione di deepfake di personaggi di spicco utilizzando il suo strumento. Il CEO dell'azienda, David Holz, ha dichiarato che i periodi di prova gratuiti sono stati interrotti a causa degli abusi durante il periodo di prova e dell'eccezionale domanda. Per utilizzare la tecnologia, ora sarà necessario pagare almeno 10 dollari al mese.
Recentemente, Midjourney ha ricevuto attenzioni indesiderate a causa di deepfake che ritraevano Donald Trump, ex presidente degli Stati Uniti, in arresto e Papa Francesco con un cappotto alla moda, creati con l'IA dell'azienda. Nonostante le immagini fossero state rapidamente identificate come false, sorgono preoccupazioni riguardo all'uso di Midjourney, DALL-E di OpenAI e generatori simili per diffondere disinformazione. Holz ha riconosciuto le difficoltà nello stabilire politiche sui contenuti e ha espresso la speranza di migliorare la moderazione IA che verifica gli abusi. Alcuni sviluppatori di IA, come OpenAI, hanno adottato regole rigide per prevenire incidenti, mentre altri, come Stability AI, hanno linee guida più lasche.
Le preoccupazioni riguardanti la produzione di immagini AI non si limitano ai contenuti fuorvianti, ma includono anche il furto di immagini utilizzate come modelli. È fondamentale che le aziende che sviluppano tecnologie di intelligenza artificiale definiscano politiche sui contenuti chiare ed efficaci per prevenire abusi e disinformazione e aggiornino costantemente tali politiche per far fronte all'evoluzione della tecnologia.
Collaborare con esperti legali, etici e del settore è essenziale per garantire che le tecnologie IA rispettino le leggi e le normative vigenti e non violino i diritti d'autore e altri diritti di proprietà intellettuale. Se adeguatamente regolamentate e utilizzate con responsabilità, queste tecnologie possono offrire notevoli benefici in termini di creatività, efficienza e innovazione.