Un nuovo supercomputer basato sulle GPU NVIDIAH200 è stato annunciato venerdì scorso da Will Bryk, CEO di ExaAILabs. Il sistema, chiamato Exacluster, verrà utilizzato per sviluppare un motore di ricerca in grado di comprendere meglio le richieste degli utenti e fornire risultati superiori, sia in termini di accuratezza che per quanto riguarda il quantitativo di risposte, rispetto a Google.
L'Exacluster è composto da 18 server, ciascuno equipaggiato con 8 GPU NVIDIA H200, per un totale di 144 GPU. Il sistema offre una potenza di calcolo combinata di circa 570 PetaTOPS e dispone di 20TB di memoria HBM3E. La configurazione include anche 3.456 core CPU, 36TB di RAM DDR5 e 270TB di storage SSD NVMe.
Il supercomputer ha un consumo energetico di 100kW e utilizza un sistema di raffreddamento ad aria standard. Secondo Bryk, il costo complessivo dell'Exacluster si aggira intorno ai 5 milioni di dollari, circa 277.777 dollari per macchina.
Non è chiaro come ExaAI sia riuscita ad ottenere un prezzo così vantaggioso e ad accedere in anticipo alle GPU H200. Tuttavia, va notato che NVIDIA figura tra i principali investitori della società, insieme a Lightspeed e YCombinator, motivo epr il quale potrebbero averle fornite in anticipo all'azienda per realizzare l'Exacluster.
ExaAI intende utilizzare l'Exacluster per addestrare reti neurali finalizzate alla creazione di un motore di ricerca innovativo. L'obiettivo è sviluppare un sistema in grado di elaborare query complesse e restituire risultati più pertinenti rispetto agli attuali standard.
We just finished setting up the Exacluster:
— Will Bryk (@WilliamBryk) January 10, 2025
- 144 H200s
- 3456 CPUs
- 270TB NVME SSD
- 20TB GPU RAM
- 36TB CPU RAM
- 100KW operating power
Prepare yourselves for what's coming.. pic.twitter.com/Ulhp470Spz
Se il progetto avrà successo, potrebbe rappresentare una svolta significativa nel campo della ricerca online, offrendo agli utenti un'esperienza di ricerca notevolmente migliorata, più intuitiva e più completa.
L'annuncio di ExaAILabs evidenzia il crescente interesse verso l'applicazione dell'intelligenza artificiale avanzata nel settore dei motori di ricerca, un ambito finora dominato da pochi grandi attori del settore tech.
