NVIDIA ha scelto l'Oracle Cloud Infrastructure (OCI) Supercluster per eseguire DGX Cloud, la soluzione multi-nodo per eseguire applicazioni IA enterprise. I servizi di AI Foundations saranno invece erogati su OCI classico, sempre attraverso DGX Cloud.
OCI Supercluster si basa su OCI Compute Bare Metal, un cluster RoCE a bassa latenza basata sulle soluzioni NVIDIA networking e storage HPC. La soluzione di Oracle è stata validata da NVIDIA per supportare migliaia di istanze Compute Bare Metal in grado di processare in maniera efficiente un numero massiccio di applicazioni in parallelo. Il Supercluster OCI può scalare fino a 4.096 istanze con 32.768 GPU.
NVIDIA ha inoltre annunciato che Oracle aggiungerà le DPU BlueField-3 al proprio stack di networking potenziando la già presente tecnologia RDMA (Remote Direct Memory Access) che offre una latenza nell'ordine dei microsecondi.
"Le illimitate opportunità per l'innovazione guidata dall'IA stanno aiutando a trasformare virtualmente ogni business" ha affermato Manuvir Das, Vice President di enterprise computing di NVIDIA. "La collaborazione tra NVIDIA e OCI permette a ogni azienda di utilizzare le straordinarie performance di supercomputing della piattaforma NVIDIA per l'elaborazione accelerata".
I servizi di AI Foundations spaziano dal linguaggio, alle immagini, ai video, alla modellazione 3D e alla biologia. Le imprese possono sfruttare la potenza di NeMo, un framework per l'IA conversazionale, oppure i servizi Picasso di immagini, video ed elaborazioni 3D per sviluppare applicazioni di IA generativa per il supporto clienti, chatbot, creazione di contenuti e simulazioni digitali. È presente inoltre il servizio BioNeMo che offre diversi tool per il training e l'inferenza di modelli biologici.