Copilot Designer, la parte dell’IA di Microsoft che sfrutta Dall-E 3 per creare immagini a partire da testo, è finito sotto accusa per alcuni gravi problemi di sicurezza ed etica. Shane Jones, un ingegnere che lavora in Microsoft da sei anni e non fa parte del progetto Copilot, ha inviato una lettera aperta alla FTC (Federal Trade Commission), chiedendo di intervenire per bloccare Copilot Designer.
Jones sostiene di aver testato lo strumento e di aver ottenuto abbastanza facilmente immagini offensive, violente e sessualizzate, che potrebbero mettere a rischio la sicurezza degli utenti, oltre che fare una cattiva pubblicità a Microsoft.
A detta dell’ingegnere, Microsoft non ha preso sul serio le sue segnalazioni, limitandosi a rimandarlo all’Office of Responsible AI, team interno all’azienda che monitora l’uso etico dell’IA, ma che non ha alcun potere per quanto riguarda lo sviluppo. Jones ha provato a contattare anche OpenAI chiedendo che venisse sospeso Dall-E, ma non ha ricevuto risposta.
Per questo motivo, Jones ha deciso di rivolgersi alla FTC, sperando che l’ente intervenga per arginare il problema e, magari, riesca a convincere Microsoft a porre dei paletti. Copilot Designer sembra avere meno filtri e controlli rispetto ad altri strumenti, permettendo di generare più facilmente immagini che violano il Copyright, o che rappresentano scene violente e offensive, che spesso ricalcano gli stereotipi.
Nonostante le accuse del proprio ingegnere, Microsoft non sembra intenzionata a bloccare Copilot Designer, al momento ancora liberamente accessibile a tutti. Questo non significa però che l’azienda non sia al lavoro dietro le quinte per migliorare la propria intelligenza artificiale, con l’obiettivo di inserire dei controlli più efficaci, capaci di limitare questi tipi di input.
Questo episodio che vede protagonista Copilot Designer è solo l’ennesimo esempio dei problemi che affliggono le IA che generano immagini, che vengono abusate ancora molto facilmente per creare immagini oscene e violente, che spesso cavalcano gli stereotipi più comuni. La speranza è che, ovviamente, in futuro gli sviluppatori riescano a limitare meglio le IA per evitare problemi e situazioni spiacevoli causate da queste immagini.