La piattaforma X si trova al centro di una tempesta mediatica e legale dopo che migliaia di utenti hanno iniziato a sfruttare Grok, lo strumento di intelligenza artificiale integrato nel social network, per manipolare fotografie di donne e ragazze. La funzionalità di modifica delle immagini permette di trasformare abiti normali in bikini, o altri indumenti succinti, e secondo quanto riportato da Reuters e dalle autorità francesi, tra le vittime di queste manipolazioni figurerebbero anche delle minorenni. Il fenomeno ha assunto dimensioni preoccupanti nell'arco di appena due giorni, sollevando interrogativi sulla responsabilità delle piattaforme tecnologiche nella gestione degli strumenti basati sull'intelligenza artificiale.
Facciamo un passo indietro. Il fenomeno "put me in bikini" non è una novità su X, da parecchie settimane è diventato un trend negli USA, dove diverse utenti e OnlyFanser hanno cominciato a postare foto personali chiedendo a Grok di metterle in bikini. Ovviamente il trend è degenerato nel momento in cui anche gli utenti hanno cominciato a fare richieste analoghe a Grok, provando a superare i limiti imposti dai filtri contro le nudità.
Si è passati quindi a utenti che, sotto ai post di ogni singola utente di sesso femminile, hanno cominciato a chiedere a Grok di trasformare, senza consenso, le foto pubblicate, passando brevemente dai bikini alla lingerie in PVC trasparente sperando di intravvedere qualche genitale realizzato artificialmente.
Ciò che distingue questa vicenda da altri casi simili di realizzazione di deepfake senza consenso è l'accessibilità immediata dello strumento e la totale asseenza di filtri o limitazioni per l'utenza. Basta semplicemente taggare Grok sotto una foto pubblicata su X per ottenere una versione manipolata in base alle proprie richieste. Questa integrazione diretta nella piattaforma elimina qualsiasi barriera tecnica, rendendo la pratica estremamente semplice e alla portata di chiunque abbia un account su X.
Ovviamente, una volta che il trend è degenerato al di fuori dei profili consenzienti e andando a manipolare immagini di minori, si è compreso la portata del problema, visto che non esistono filtri che proteggano il contenuto delle foto postate dagli utenti su X.
La reazione iniziale di Elon Musk alla controversia ha suscitato ulteriori polemiche. Il proprietario di X avrebbe risposto alle prime segnalazioni pubblicando emoji ridenti e condividendo immagini generate dall'intelligenza artificiale che lo ritraevano in bikini, interpretando evidentemente la questione come uno scherzo e cavalcando il trend attuale. Questo atteggiamento è proseguito per diversi giorni, mentre cresceva la pressione da parte delle istituzioni internazionali.
I governi di diversi paesi europei, insieme all'India, hanno rapidamente alzato il tiro delle loro minacce, paventando la possibilità di bloccare l'accesso alla piattaforma nei rispettivi territori. Le autorità hanno fatto riferimento a violazioni gravissime della privacy e alla potenziale produzione di materiale pedopornografico, configurando ipotesi di reato estremamente serie. Solo di fronte all'escalation legale e alla prospettiva concreta di sanzioni, l'account ufficiale X Safety ha pubblicato un comunicato in cui promette provvedimenti severi, dichiarando che gli utenti responsabili di queste manipolazioni non consensuali verranno bannati dalla piattaforma.
La vicenda riapre il dibattito su come le aziende tecnologiche sviluppino e implementino strumenti basati sull'intelligenza artificiale. La domanda fondamentale riguarda l'assenza di controlli preventivi sui prompt che gli utenti possono inserire. Mentre altre piattaforme di generazione di immagini hanno implementato filtri che bloccano richieste contenenti termini come "nude", "undress" o altre parole chiave associate a contenuti inappropriati, Grok sembra essere stato rilasciato senza queste protezioni basilari. Questo solleva interrogativi sulla fase di test e sulla valutazione dei rischi che dovrebbe precedere il lancio di qualsiasi tecnologia con simili potenzialità di abuso.
L'evoluzione della situazione dipenderà probabilmente dalla velocità con cui X implementerà filtri efficaci e dalla credibilità delle misure punitive annunciate. Le autorità europee, in particolare quelle francesi che hanno già aperto indagini specifiche, potrebbero fungere da apripista per regolamentazioni più stringenti sull'uso dell'intelligenza artificiale nelle piattaforme social.
