Google ha riconosciuto pubblicamente che il suo chatbot Gemini, precedentemente noto come Bard, presenta inesattezze nelle rappresentazioni storiche generate dalle immagini AI, con buona pace dei Pitura Freska che stavano già festeggiando per il Papa nero made in Gemini.
L'applicazione, infatti, consente agli utenti di chiedere a Gemini di creare illustrazioni basate su descrizioni testuali, ma alcuni utenti hanno sollevato numerose critiche riguardo alla rappresentazione di figure specifiche (come il Papa) o gruppi storicamente bianchi, attraverso degli individui "etnicamente diversi".
Google ha emesso una dichiarazione affermando di essere consapevole delle imprecisioni in alcune rappresentazioni storiche attraverso la generazione di immagini di Gemini e ha promesso di risolvere il problema nell'immediato.
Il chatbot Gemini è stato oggetto di controversie quando un ex dipendente di Google ha postato su X alcune immagini di donne di colore con la didascalia: "È imbarazzantemente difficile far sì che Google Gemini riconosca l'esistenza delle persone bianche".
It's embarrassingly hard to get Google Gemini to acknowledge that white people exist pic.twitter.com/4lkhD7p5nR
— Deedy (@deedydas) February 20, 2024
Altri utenti, in gran parte noti per le loro posizioni di destra, hanno condiviso i propri risultati, mostrando immagini generate dall'IA che raffigurano i padri fondatori dell'America e i papi della Chiesa cattolica come persone di colore.
Nei test condotti da vari utenti, Gemini ha generato immagini in cui figure storiche bianche, erano ritratte come persone di colore. La dichiarazione di Google sostiene che il comportamento di Gemini potrebbe essere il risultato di un'eccessiva correzione, data la tendenza storica dei chatbot ad esibire comportamenti razzisti e sessisti.
We're aware that Gemini is offering inaccuracies in some historical image generation depictions. Here's our statement. pic.twitter.com/RfYXSgRyfz
— Google Communications (@Google_Comms) February 21, 2024
Jack Krawczyk, il Product Lead di Gemini, ha affermato che Google prende sul serio la rappresentazione e il bias e che lavoreranno per affinare il chatbot per gestire meglio i contesti storici più complessi.
La problematica di Gemini potrebbe essere associata a una fase di correzione eccessiva, poiché i chatbot e i robot addestrati su AI negli anni passati tendevano a mostrare comportamenti razzisti e sessisti.
Google afferma di aver progettato le capacità di generazione di immagini di Gemini per riflettere la sua base di utenti globale e di prendere sul serio la rappresentazione e il bias.
La dichiarazione del Product Lead di Gemini, Jack Krawczyk, sostiene che Gemini continuerà a generare illustrazioni etnicamente diverse per prompt aperti, come immagini di persone che passeggiano con il proprio cane. Tuttavia, ha ammesso che i contesti storici richiedono più attenzione e affinamento.