Google compie un passo significativo nella lotta contro la disinformazione digitale espandendo le capacità di rilevamento di Gemini: da oggi gli utenti possono caricare video per verificare se siano stati creati o modificati con l'intelligenza artificiale di Mountain View.
Una funzionalità che arriva in un momento cruciale, quando la proliferazione di contenuti sintetici – il cosiddetto "AI slop" – sta rendendo sempre più complesso distinguere materiale autentico da quello generato algoritmicamente. La tecnologia si basa su SynthID, il sistema di watermarking impercettibile sviluppato da Google per tracciare i contenuti AI senza compromettere la qualità visiva o sonora.
Il funzionamento è relativamente intuitivo: basta caricare un video nell'app Gemini e porre una domanda diretta come "Questo video è stato generato con l'intelligenza artificiale di Google?". L'assistente analizza sia la traccia audio che quella visiva alla ricerca della firma digitale SynthID, restituendo risposte dettagliate che identificano segmenti specifici. Un esempio tipico potrebbe essere: "SynthID rilevato nell'audio tra i 10 e i 20 secondi. Nessun SynthID rilevato nei contenuti visivi". Questa granularità permette di individuare anche modifiche parziali, dove solo alcune porzioni del video sono state manipolate o generate da AI.
La funzionalità di verifica video era stata annunciata contestualmente al rilascio di Nano Banana Pro, e Google ha mantenuto la promessa portando lo strumento su scala globale. Sia il rilevamento di immagini che quello di video sono ora disponibili in tutte le lingue e i paesi supportati dall'app Gemini, inclusa naturalmente l'Italia. I limiti tecnici sono contenuti ma ragionevoli per un utilizzo quotidiano: i file possono pesare fino a 100 MB e durare massimo 90 secondi, parametri sufficienti per verificare la stragrande maggioranza dei contenuti che circolano sui social media.
Tuttavia, la soluzione presenta un'importante limitazione strutturale che ne riduce significativamente l'efficacia pratica. SynthID funziona esclusivamente con contenuti generati dagli strumenti di Google e dai partner che hanno adottato questa tecnologia di watermarking, tra cui NVIDIA e Hugging Face. L'ecosistema dell'intelligenza artificiale generativa è però vastissimo e frammentato: strumenti come Midjourney, Stable Diffusion, OpenAI's Sora, Runway e decine di altri non utilizzano SynthID, rendendo i loro output completamente invisibili a questo sistema di rilevamento. In pratica, Gemini può verificare solo una frazione dei contenuti AI circolanti online.
La questione solleva un problema più ampio che l'industria tech sta affrontando con crescente urgenza: la necessità di uno standard condiviso per il watermarking dei contenuti. Mentre organizzazioni come la Coalition for Content Provenance and Authenticity (C2PA) lavorano a protocolli unificati, l'adozione rimane frammentaria. Non tutti i player del settore hanno gli stessi incentivi economici o strategici per implementare sistemi di tracciabilità: alcuni potrebbero temere che watermark troppo robusti limitino l'attrattività dei loro prodotti, mentre altri considerano la trasparenza un vantaggio competitivo.
Nel contesto europeo, questa iniziativa assume una rilevanza particolare alla luce dell'AI Act, il regolamento dell'Unione Europea che impone obblighi di trasparenza per i sistemi di intelligenza artificiale generativa. La normativa richiede che i contenuti sintetici siano chiaramente identificabili, e strumenti come quello di Google potrebbero diventare complementari agli adempimenti normativi. Resta da vedere se la pressione regolatoria europea spingerà verso una maggiore standardizzazione delle soluzioni di watermarking, superando l'attuale frammentazione che ne limita l'efficacia pratica.
L'espansione delle capacità di rilevamento di Gemini rappresenta comunque un progresso concreto, anche se parziale. Nell'era della generazione sintetica di massa, ogni strumento che aiuti utenti e professionisti a valutare l'autenticità dei contenuti contribuisce a costruire un ecosistema digitale più trasparente. Il successo a lungo termine dipenderà però dalla disponibilità dell'industria a convergere verso standard comuni, bilanciando innovazione tecnologica e responsabilità sociale in un settore che continua a evolversi a velocità vertiginosa.
