Una delle nuove funzionalità della serie Pixel 9 è Pixel Studio, un'app che trasforma i prompt di testo in immagini. Simile a Gemini e ImageFX, questa applicazione permette agli utenti di inserire un comando di testo e ricevere in cambio un'immagine. Tuttavia, come ogni generatore di immagini, presenta dei limiti imposti per prevenire gli abusi.
Google ha spiegato che le restrizioni sono state messe in atto sia su Pixel Studio che su Magic Editor per "prevenire abusi" pur rispettando "l'intento dei prompts degli utenti", anche se questi ultimi dovessero indurre la creazione di contenuti potenzialmente offensivi. L'azienda sottolinea l'importanza di avere politiche chiare e termini di servizio ben definiti per regolare i contenuti ammessi e quelli proibiti, oltre a costruire barriere che impediscono l'abuso degli strumenti.
"Pixel Studio e Magic Editor sono strumenti utili per liberare la vostra creatività con la generazione di testi e immagini e con l'editing fotografico avanzato sui dispositivi Pixel 9. Progettiamo i nostri strumenti di IA generativa in modo che rispettino l'intento delle richieste dell'utente, il che significa che possono creare contenuti che possono offendere quando l'utente lo richiede. Detto questo, non è tutto permesso. Abbiamo politiche e termini di servizio chiari su quali tipi di contenuti consentiamo e non consentiamo, e costruiamo barriere di protezione per prevenire gli abusi. A volte, alcune richieste possono sfidare le barriere di protezione di questi strumenti e noi continuiamo a impegnarci per migliorare e perfezionare continuamente le misure di salvaguardia che abbiamo messo in atto", spiega l'azienda di Mountain View.
Nonostante le precauzioni, ci sono stati casi in cui l'app Pixel Studio ha generato immagini non conformi, come personaggi dei cartoni animati in uniformi della seconda guerra mondiale o scene di sparatorie che idealmente non dovrebbero essere possibili. Questo ha suscitato preoccupazioni, incidendo sulla visione di questi strumenti destinati primariamente all'uso creativo e leggero.
Data la natura degli strumenti di generazione di immagini basati sull'IA, è inevitabile che si verifichino episodi di contenuti inappropriati, a causa di prompt che riescono a superare le barriere messe in atto. Ciò comporta preoccupazioni significative sulla capacità di controllo e sulla sicurezza dell'IA in contesti sensibili. La situazione descritta pone delle sfide non solo tecniche ma anche etiche sull'uso di tali tecnologie, sollevando interrogativi sulla responsabilità dei contenuti generati e sulle implicazioni a lungo termine del loro uso.
Le problematiche associate alla generazione di immagini tramite intelligenza artificiale sono condivise da molti strumenti simili, sottolineando l'importanza di un dialogo aperto e continuo sulle migliori pratiche e le politiche di regolamentazione. Infatti, l'approccio di Google al rafforzamento continuo delle misure di sicurezza indica un impegno verso la mitigazione dei rischi associati al loro utilizzo.
Con il rilascio della gamma Pixel 9, l'integrazione di funzionalità avanzate di intelligenza artificiale dimostra l'orientamento di Google verso miglioramenti reali piuttosto che il mero perseguimento di risultati nei benchmark, consolidando il posizionamento dei suoi dispositivi all'avanguardia nella tecnologia mobile.