Si chiama GAN Paint Studio e il nome non è casuale. La seconda parte infatti rimanda alla sua funzione di programma dedicato al foto ritocco, mentre GAN (Generative Adversarial Network) è un tipo di rete neurale per IA che abbiamo imparato a conoscere da qualche anno in diversi ambiti, dai videogiochi al riconoscimento di video fake. La nuova rete neurale, messa a punto da un team congiunto di ricercatori provenienti da due eccellenze come il MIT e l’IBM, è in grado di manipolare le immagini tramite un’interfaccia semplice e intuitiva, aggiungendo, eliminando o modificando gli oggetti presenti in un’immagine con pochi click. Potete testarlo a questo indirizzo.

La sua peculiarità però è un’altra: GAN Paint Studio manifesta infatti una certa “personalità” e non esegue qualsiasi comando, rifiutandosi di eseguire quelli più assurdi secondo il proprio giudizio, come posizionare oggetti in contesti impossibili. Una caratteristica che, secondo Antonio Torralba, docente del MIT e membro del gruppo di ricerca, “apre una finestra che ci consente di comprendere come le GAN imparano a rappresentare il mondo visuale”.

Come tutte le reti neurali di questo tipo, anche GAN Paint Studio si compone di due IA in “competizione”: la prima genera delle immagini, mentre la seconda si incarica di distinguere quelle “inventate” da quelle reali. In questo modo la prima imparerà sempre meglio a crearne di più credibili e per lo stesso motivo, anche si rifiuterà di crearne di assurde.

I ricercatori ovviamente sono consapevoli del rischio di creare immagini false sempre più convincenti, che pone l’esistenza di GAN Paint Studio, ma al tempo stesso credono anche che comprendere meglio i meccanismi di creazione delle immagini possa aiutarci proprio a identificare e contrastare la diffusione di quelle false. Chissà che in futuro non possano esserci IA “etiche” in grado di disubbidire alla richiesta di creazione di immagini false che siano in qualche modo lesive, di una persona, di un’idea, di un orientamento politico o che semplicemente siano un insulto all’intelligenza, artificiale o no.