Durante il recente Google I/O, l'azienda ha presentato una serie di innovazioni legate al suo modello di intelligenza artificiale denominato Gemini, mostrato in azione nel miglioramento le capacità di ricerca su Internet. Tra le funzionalità più attese c'è la ricerca video, che permette agli utenti di interrogare il sistema attraverso comandi vocali direttamente sulle registrazioni fatte con la fotocamera.
Nonostante l'introduzione di queste tecnologie avanzate, una demo di esempio mostrata durante la presentazione ha sollevato alcune perplessità. Il caso presentato riguarda una fotocamera analogica dove la leva di avanzamento della pellicola è bloccata. L'utente chiede a Google: "perché la leva non si muove completamente?". Gemini, in risposta, suggerisce di "aprire lo sportello posteriore e rimuovere delicatamente la pellicola", soluzione evidenziata nel video di esempio.
Questo tipo di intervento, tuttavia, rappresenta un grave errore se non eseguito in una stanza completamente buia, poiché esporrebbe la pellicola alla luce, danneggiando irreparabilmente le foto già scattate. Tale errore non è passato inosservato, sollevando interrogativi sull'affidabilità delle risposte fornite dall'AI di Google in scenari di utilizzo reale.
Non è la prima volta che un prodotto AI di Google commette errori durante le dimostrazioni pubbliche. Ad esempio, lo scorso anno, il chatbot Bard affermava erroneamente che il Telescopio Spaziale James Webb fosse stato il primo a fotografare un pianeta al di fuori del nostro Sistema Solare.
Questi episodi sono indicativi delle sfide che le aziende tecnologiche devono affrontare nello sviluppo e implementazione di intelligenze artificiali capaci di interpretare e rispondere accuratamente a quesiti complessi posati dagli utenti.