Nvidia HGX-2, 16 GPU Volta per allenare le IA

Nvidia ha svelato nel corso della GPU Technology Conference di Taiwan la nuova piattaforma HGX-2 equipaggiata con 16 GPU Tesla V100 con 32 GB di memoria ciascuna che lavorano insieme per offrire una potenza di calcolo di 2 petaflops.

In verità non è una vera e propria novità, in quanto HGX-2 non è altro che la stessa piattaforma sulla quale è basato DGX-2, il sistema presentato da Nvidia a marzo.

All'epoca il CEO di Nvidia definì il sistema come "la GPU più grande al mondo", contando di fatti su un totale di 512 GB di memoria HBM2 che mettono a disposizione un throughput fino a 14,4 TB/s e ben 81.920 CUDA core.

Fulcro di tutto la tecnologia Nvidia NVSwitch, una nuova interconnessione flessibile garantita da uno switch composto da 2 miliardi di transistor che permette una comunicazione "chip to chip" a 300 GB/s. Insieme a NVLink2, NVSwitch permette di "unire" insieme le 16 GPU creando una singola unità coesa con spazio di memoria unificato.

Secondo l'azienda californiana HGX-2 offre prestazioni da record nell'allenamento di modelli di intelligenza artificiale: in base al benchmark ResNet-50 è in grado di processare 15.500 immagini al secondo, ed è quindi in grado di rimpiazzare server con 300 CPU che costano milioni di dollari, a un prezzo decisamente inferiore (DGX-2 costa 400 mila dollari).

Leggi anche: Nvidia Quadro GV100, Volta e 32 GB di memoria HBM2

Insomma, la notizia è che Nvidia è riuscita a rendere la piattaforma disponibile ai produttori di server mettendo a disposizione un'architettura di riferimento.

Quattro produttori di server – Lenovo, QCT, Supermicro e Wiwynn – hanno già annunciato che porteranno sistemi sul mercato quest'anno. Inoltre quattro ODM (original design manufacturer) che rispondono al nome di Foxconn, Inventec, Quanta e Wistron stanno progettando sistemi HGX-2 per datacenter cloud di grandi dimensioni.

L'introduzione di HGX-2 segue quella di HGX-1 lo scorso anno, una soluzione basata su otto GPU. L'architettura di riferimento di HGX-1 è stata usata in progetti come Big Basin di Facebook e Project Olympus di Microsoft.