Elon Musk sta raddoppiando la potenza del supercomputer Colossus di xAI, portandolo a 200.000 GPU NVIDIA Hopper. L'espansione, annunciata da NVIDIA, mira ad accelerare lo sviluppo delle capacità di intelligenza artificiale dell'azienda, in particolare per i modelli linguistici Grok.
Questa mossa consolida la posizione di xAI come "azienda proprietaria del più grande supercomputer AI al mondo". L'azienda ha dimostrato una notevole efficienza, avendo reso operativo Colossus in soli 122 giorni, molto più rapidamente rispetto ai tempi standard del settore.
La tecnologia Spectrum-X di NVIDIA garantisce un'efficienza del 95% nel throughput dei dati su tutti e tre i livelli del fabric di rete del supercomputer, senza perdita di pacchetti o problemi di latenza.
Il CEO di NVIDIA, Jensen Huang, ha definito Musk "sovrumano" per la sua capacità di rendere operativo l'hardware NVIDIA nel data center di xAI in soli 19 giorni. Huang ha sottolineato: "Musk è singolare nella sua comprensione dell'ingegneria e della costruzione di sistemi".
L'espansione di Colossus richiederà un aumento della produzione di GPU Hopper da parte di NVIDIA. Secondo le proiezioni di Morgan Stanley, NVIDIA venderà circa 1,5 milioni di GPU Hopper nel quarto trimestre del 2024, con una previsione di un lieve calo a un milione di unità nel primo trimestre del 2025 mentre aumenteranno i volumi delle GPU Blackwell.
Questa rapida espansione della capacità di calcolo di xAI potrebbe rappresentare una sfida significativa per i concorrenti nel campo dell'intelligenza artificiale. La strategia di "shock and awe" adottata da xAI, combinata con l'efficienza ingegneristica di Musk, sta ridefinendo i tempi di implementazione e le capacità dei supercomputer AI.
L'impatto di questa espansione si rifletterà probabilmente nello sviluppo accelerato dei modelli linguistici Grok di xAI, potenzialmente portando a progressi significativi nelle capacità di AI generativa e di elaborazione del linguaggio naturale.