Google annuncia che, a partire dalla prossima settimana, le foto modificate tramite strumenti di intelligenza artificiale (AI) come Magic Editor, Magic Eraser e Zoom Enhance su Google Foto conterranno metadati visibili che indicano l'uso dell'AI. Questi dettagli saranno accessibili insieme ad altre informazioni come il nome del file, la posizione e lo status del backup nell'applicazione.
Questa misura di trasparenza implementata da Google mira a offrire agli utenti una maggiore consapevolezza sulla manipolazione delle immagini. John Fisher, direttore di ingegneria di Google Foto, ha spiegato che l'aggiunta di queste informazioni aiuterà gli utenti a comprendere meglio il contesto e la natura delle foto. Si tratta di un cambiamento significativo nel settore delle tecnologie, dove la capacità di alterare visivamente i contenuti è diventata sempre più avanzata e accessibile.
“Questo lavoro non è finito e continueremo a raccogliere feedback e valutare ulteriori soluzioni per aumentare la trasparenza riguardo le modifiche AI” ha scritto Fisher.
Inoltre, Google non si limiterà a identificare solo le modifiche generate dall'AI, ma anche le immagini che includono elementi di diverse foto, ad esempio quelle create utilizzando le funzionalità Best Take e Add Me degli smartphone Pixel (Pixel 9 Pro XL è il migliore della nuova famiglia di smartphone). Tuttavia, Fisher ha ammesso che questo sistema di metadati può essere facilmente eluso da chi intende farlo intenzionalmente.
L'introduzione di questi strumenti ha sollevato preoccupazioni riguardo l'integrità visiva delle fotografie, spingendo altre aziende come Apple a mantenere una certa distanza dalla creazione di contenuti fotorealistici. Craig Federighi di Apple ha espresso preoccupazione per il fatto che l'AI possa gettare dubbi sulla realtà rappresentata dalle foto.
L'iniziativa di Google rappresenta un passo importante per incrementare la trasparenza nell'uso dell'intelligenza artificiale nella modifica delle immagini, tuttavia pone anche questioni significative riguardo alla fiducia nel contenuto digitale e alla facile manipolazione dell'informazione visiva.