L'ultima mossa di Epic Games, atta a dimostrare quanto l'IA possa diventare una componente importante dei futuri videogiochi, in realtà ci sta dimostrando tutto il contrario. Il colosso dei videogiochi, difatti, ha introdotto in Fortnite un chatbot di Darth Vader con cui i giocatori possono interagire vocalmente durante le partite, ricevendo risposte generate dall'IA con la voce originale del personaggio.
L'iniziativa, apparentemente innovativa e per certi versi interessante, ha però già mostrato i suoi lati problematici quando alcuni streamer sono riusciti a far pronunciare al Signore dei Sith espressioni volgari e commenti inappropriati, costringendo gli sviluppatori a correre ai ripari.
La tecnologia dietro questa funzionalità utilizza il modello Gemini 2.0 Flash di Google per elaborare le conversazioni e il modello Flash v2.5 di ElevenLabs per riprodurre la voce di James Earl Jones, storico doppiatore del villain di Star Wars. Epic Games ha presentato questa novità come un'opportunità per i giocatori di "collaborare con l'ultimo Signore dei Sith" e porre domande su argomenti che spaziano dalla Forza all'Impero Galattico, fino alle migliori strategie di gioco.
Un elemento degno di nota è che questa operazione ha ricevuto l'approvazione ufficiale dalla famiglia di James Earl Jones. "James Earl ha sempre considerato la voce di Darth Vader inseparabile dalla storia di Star Wars, e ha sempre desiderato che i fan di tutte le età continuassero a farne esperienza", si legge in una dichiarazione rilasciata dai familiari dell'attore. "Speriamo che questa collaborazione con Fortnite permetta sia ai fan di lunga data di Darth Vader sia alle nuove generazioni di condividere il piacere di questo personaggio iconico."
Come spesso accade quando si introducono strumenti di intelligenza artificiale in ambienti poco controllati, i risultati possono essere imprevedibili. La streamer australiana Loserfruit è stata tra i primi a testare i limiti del sistema, riuscendo a far pronunciare all'AI di Vader espressioni volgari, a farsi chiamare "Mamma" dal personaggio e persino a ottenere commenti inappropriati riguardanti il seno femminile. Un altro giocatore è riuscito a far parlare il Signore Oscuro di una improbabile "Alleanza Ribelle di Skibidi Toilets", dimostrando quanto possa essere manipolabile il sistema.
La risposta di Epic Games non si è fatta attendere. Secondo quanto riportato da Kotaku, la società ha implementato un hotfix entro 30 minuti dalla scoperta del problema, dichiarando che "questo non dovrebbe accadere di nuovo". Una correzione rapida che evidenzia quanto le aziende siano consapevoli dei rischi associati all'implementazione di tecnologie conversazionali in ambienti di gioco poco controllati, frequentati anche da utenti minorenni.
E proprio in merito alla tutela dei minori, Epic ha dovuto adeguarsi alle normative vigenti: i giocatori sotto i 13 anni (o sotto l'età del consenso digitale del proprio paese, se superiore) devono ottenere il permesso dei genitori per poter interagire con il chatbot di Vader. Questo requisito è stato implementato nelle impostazioni del gioco attraverso un controllo parentale specifico per "consentire la comunicazione vocale e scritta con le funzionalità AI".
Cannot get X.com oEmbed
L'introduzione di questo chatbot basato sull'intelligenza artificiale si inserisce in un trend più ampio che vede Fortnite arricchirsi di elementi esterni all'universo originale del gioco. Recentemente, infatti, il titolo ha accolto anche il controverso Cybertruck di Tesla, ampliando ulteriormente il suo già vasto repertorio di collaborazioni e crossover.
Sebbene l'idea di poter conversare con uno dei villain più iconici della storia del cinema possa sembrare affascinante, l'episodio solleva interrogativi sulla direzione che stanno prendendo i videogiochi nell'era dell'intelligenza artificiale generativa. La possibilità di manipolare personaggi storici o fittizi attraverso l'AI, facendo loro pronunciare frasi che mai avrebbero detto, apre scenari complessi sia dal punto di vista etico che normativo.