xAI, l'azienda di intelligenza artificiale di Elon Musk, ha rilasciato due nuove versioni del suo chatbot Grok: Grok-2 e Grok-2 mini. Questi modelli promettono prestazioni migliorate rispetto al predecessore e nuove capacità di generazione di immagini che consentiranno agli utenti di X di creare immagini AI direttamente sulla piattaforma social.
Le nuove versioni di Grok rappresentano un significativo passo avanti nell'ambito dell'intelligenza artificiale conversazionale e generativa. xAI afferma che Grok-2 offre "capacità all'avanguardia in chat, codifica e ragionamento", mentre Grok-2 mini è descritto come un "fratello minore ma capace" del modello principale.
Una delle caratteristiche più rilevanti e controverse di Grok-2 è la sua capacità di generare immagini senza le tradizionali restrizioni etiche presenti in altri sistemi simili.
A differenza di DALL-E di OpenAI o Firefly di Adobe, Grok-2 sembra non avere "guardrail" per impedire la creazione di contenuti potenzialmente offensivi o fuorvianti.
Alcuni utenti hanno già evidenziato come sia possibile generare immagini di personaggi pubblici in situazioni immaginarie o potenzialmente compromettenti. Un utente ha dichiarato: "La generazione di immagini di Grok 2.0 è migliore di quella di Llama e non ha stupide barriere", mostrando immagini generate di Mark Zuckerberg ed Elon Musk che boxano.
La mancanza di restrizioni etiche solleva preoccupazioni sulla possibile diffusione di disinformazione, soprattutto in vista delle numerose elezioni previste quest'anno in tutto il mondo, tra cui le presidenziali americane di novembre.
grok 2.0 image generation is better than llama’s and has no dumb guardrails.
— Sid Dani (@siddaniagi) August 14, 2024
ftw @elonmusk @grok pic.twitter.com/5wanVLrQyc
La facilità con cui Grok-2 può generare immagini di persone reali in situazioni fittizie potrebbe avere implicazioni significative per la diffusione di fake news e manipolazione dell'opinione pubblica.
Mentre altri sistemi di IA generativa hanno implementato misure di sicurezza per prevenire abusi, l'approccio apparentemente più permissivo di xAI solleva interrogativi etici.
Al momento, l'accesso a Grok-2 e Grok-2 mini è limitato agli abbonati Premium e Premium+ di X, ma xAI prevede di renderli disponibili attraverso la sua API Enterprise entro la fine del mese. Questo potrebbe portare a un'adozione più ampia della tecnologia, con potenziali rischi e benefici ancora da valutare completamente.
Resta da vedere come xAI e la comunità tecnologica più ampia affronteranno le sfide etiche poste da questa nuova generazione di IA generativa. La capacità di creare contenuti visivi realistici ma fittizi potrebbe richiedere nuove forme di verifica e alfabetizzazione mediatica per il pubblico.