NVIDIA ha annunciato l'arrivo di AI Workbench, un toolkit che permette agli sviluppatori di creare, testare e personalizzare modelli generativi pre-addestrati e LLM direttamente sul proprio PC, scalandoli su qualsiasi data center, cloud pubblico o cloud NVIDIA DGX.
In pochi passi gli sviluppatori possono creare progetti enterprise di intelligenza artificiale, modificando grandi modelli come Llama2 e addestrandoli coi i dati del proprio dominio.
AI Workbench esegue in maniera automatica l'ambiente di progetto, creando un container con tutte le dipendenze necessarie per eseguire ed effettuare il fine tuning del modello. Il toolkit si integra inoltre con Jupyter per offrire agli sviluppatori un ambiente di testing.
Gli sviluppatori che utilizzano pc Windows o Linux basati su RTX potranno effettuare il fine-tuning dei progetti di IA generativa sui propri sistemi RTX, accedendo facilmente alle risorse computazionali del cloud quando hanno necessità di scalare.
AI Workbench di NVIDIA consente anche di condividere i progetti localmente e in remoto, spostando i carichi di lavoro tra laptop, server GPU e istanze cloud, favorendo così la collaborazione tra gli sviluppatori.
"Le enterprise intorno al mondo stanno gareggiando per trovare la giusta infrastruttura e creare modelli e applicazioni di IA generativa" ha affermato Manuvir Das, vice presidente di enterprise computing di NVIDIA. "AI Workbench offre ai team cross-organizzazioni un modo semplice per creare le applicazioni di IA che stanno diventando sempre più essenziali per il business moderno".
Il toolkit sarà disponibile a breve in early access per coloro che lo richiederanno.
NVIDIA AI Enterprise 4.0
In un ulteriore sforzo di accelerare l'adozione dell'IA generativa, NVIDIA ha annunciato la nuova versione di AI Enterprise, la piattaforma che consente ai business di accedere ai tool di IA generativa senza rinunciare alla sicurezza e alla stabilità.
AI Enterprise accelera lo sviluppo di applicazioni production-ready di IA generativa, computer vision e speech AI. Nella versione 4.0 includerà il supporto a NeMo, il framework cloud-native per sviluppare LLM; a Triton Management Service, per automatizzare il deploy delle applicazioni; e a Base Command Manager Essentials, il software di gestione per massimizzare le performance e ottimizzare l'utilizzo dei server per l'IA nei data center.
AI Enterprise è certificato per gli NVIDIA-Certified Systems, i DGX Systems e su tutte le principali piattaforme cloud. L'ultima versione della piattaforma sarà disponibile a breve su Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure.