NVIDIA ha ufficializzato il nuovo Chat with RTX, un programma disponibile gratuitamente (potete scaricarlo da qui) che sfrutta l’IA generativa e le schede NVIDIA RTX serie 30 e serie 40 per rispondere alle vostre domande su documenti e video.
Chat with RTX gira in locale su PC Windows e sfrutta la Retrieval-Augmented Generation (RAG) e il modello di linguaggio TensorRT, accelerato dai Tensor Core delle schede grafiche GeForce. Il set di dati è composto da file locali scelti dall’utente, quindi lo strumento è perfetto per ottenere risposte veloci su documenti, PDF o video salvati sul PC. Pensate ad esempio di avere bisogno di un riassunto scritto di un video o di un lungo PDF, o ancora di dover recuperare un’informazione che non ricordate e che si trova in uno dei vostri molti file, ma non ricordate quale: Chat with RTX è pensato per questi (e altri) compiti e punta a facilitarvi la vita, dando risposte immediate a richieste che, normalmente, richiederebbero decine di minuti (se non addirittura ore).
Lo strumento di NVIDIA supporta attualmente i formati txt, PDF, xml, doc e docx. È sufficiente indicare nel percorso del set di dati la cartella contenente i vostri file e lo strumento li caricherà nella sua libreria in pochi secondi. È anche possibile aggiungere l’URL di un video per fare in modo che il chatbot lo analizzi e sia in grado di fornirvi informazioni contestuali. È possibile, ad esempio, chiedere consigli di viaggio facendogli analizzare i video dei vostri influencer preferiti, oppure creare un tutorial passo-passo partendo da un video YouTube.
Chat with RTX funziona in locale e usa dati presenti sul PC, quindi a differenza di altri modelli concorrenti, permette anche di elaborare dati sensibili con più serenità: i vostri dati non verranno mai caricati nel cloud, poiché lo strumento non ha alcuna necessità di accedervi.
Come detto, lo strumento Chat with RTX è disponibile gratuitamente sul sito NVIDIA e può essere scaricato e utilizzato da tutti coloro che hanno un PC Windows 11 con scheda grafica NVIDIA RTX; l’unico requisito è avere una GPU serie RTX 30 o successiva con almeno 8GB di memoria video. Se siete sviluppatori, potete fare riferimento a questa pagina GitHub per implementare Chat with RTX nelle vostre applicazioni.