Nightshade, un nuovo strumento scaricabile gratuitamente creato da ricercatori dell'Università di Chicago, è stato progettato per essere utilizzato dagli artisti per disturbare i modelli di intelligenza artificiale, e impedire loro di copiare opere coperte da copyright. Ben Zhao, professore di informatica e leader del progetto, ha dichiarato di aver ricevuto 250.000 download in cinque giorni dall'uscita del tool, superando le aspettative.
Una partenza “col botto” che dimostra con gli artisti siano sensibili al tema: molti si sentono derubati dalle IA, che generano immagini spesso troppo simili a lavori esistenti - ma le aziende che le gestiscono non pagano e non vogliono pagare un centesimo di copyright.
Non si parla solo di persone che fanno arte “da museo”, ma di creativi in generale, persone che disegnano e illustrano per professione. Il problema tra l’altro potrebbe riguardare anche i fotografi. Potenzialmente Nightshade può rivelarsi uno strumento utile per milioni di professionisti in tutto il mondo
Nightshade altera le opere d'arte postate sul web, "avvelenando" modelli generativi di immagini AI modificando i pixel in modo che, agli occhi di un algoritmo, sembrino contenuti completamente diversi. In teoria si può fare in modo che l’IA veda del cibo dove invece c’è un panorama; questo rende l’immagine inutile e persino dannosa per l’addestramento dell’algoritmo stesso.
Google, OpenAI, Microsoft e le altre aziende dovrebbero quindi pagare le licenze per usare le immagini - ma sappiamo che non vogliono farlo. D’altra parte, almeno in teoria Nightshade aumenta i costi di addestramento, e proprio per questo pagare la licenza potrebbe diventare un’alternativa interessante.
Sforzi come questo sono particolarmente importanti per tutti noi, non solo per gli artisti che sono coinvolti direttamente. Sì, perché le AI permettono di ridurre i costi in moltissimi ambiti diversi, ma in molti casi ciò è possibile proprio perché all’origine gli algoritmi consumano dati in modo illecito. Ognuno di noi dovrebbe pagare una licenza, ma le IA rubano senza pensarci.
In una seconda fase, quella IA diventa uno strumento molto economico per cui un datore di lavoro ha ottime ragioni per licenziare parte del personale. In questo modo si impoveriscono gli artisti da una parte e i lavoratori dall’altra, mentre la ricchezza persa va nelle casse delle varie aziende coinvolte - e nelle tasche dei loro dirigenti.
Un meccanismo che potrebbe definirsi sano, secondo le regole del capitalismo, se alla base di tutto non ci fosse un furto. Se invece lo sviluppo delle IA diventasse più costoso, perché vanno pagati i costi di licenza, lo scenario potrebbe essere molto diverso.