L'AI Acceleration sarà uno dei settori hardware più prosperi nei prossimi mesi, e anni, e Nvidia, al momento, è in una posizione privilegiata, detenendo una parte significativa di questo mercato. La GPU per data center H100, infatti, essendo una delle scelte preferenziali dei clienti, sta già dimostrando di essere un importante generatore di entrate per l'azienda con sede a Santa Clara.
Per ogni acceleratore GPU H100 venduto, Nvidia sembra realizzare un notevole profitto, con dei margini che raggiungono il 1.000% dei costi di produzione. Tae Kim, Senior Technology Writer di Barron's, ha recentemente evidenziato che Nvidia spende circa $3.320 per produrre un singolo modulo H100, il quale viene poi venduto ai clienti finali a un prezzo che varia da $25.000 a $30.000. Queste stime sono fornite dalla società di consulenza Raymond James e sembrano comprendere anche i costi legati ai chip di memoria HBM installati sui moduli.
Se le stime si dimostrassero accurate, ciò potrebbe segnare l'inizio di un'età dell'oro senza precedenti per il business delle GPU di Nvidia, specialmente considerando che la domanda di unità GPU H100 è così elevata, che sono praticamente esaurite fino al 2024. Nel frattempo, le aziende di intelligenza artificiale stanno cercando freneticamente di assicurarsi sufficienti acceleratori GPU per alimentare i loro modelli generativi. Foxconn prevede che entro il 2027 il mercato dei server per l'IA raggiungerà un valore di $150 miliardi e questi moderni server per l'IA si basano, quasi integralmente, sulle capacità di calcolo garantite dall'hardware di Nvidia.
Prima di dare per certi i dati di Kim, bisogna però considerare che sviluppare una nuova GPU è un'impresa costosa e che richiede ingenti investimenti in ricerca e sviluppo, andando a coinvolgere numerosi ingegneri hardware e lavoratori specializzati. Questi dipendenti richiedono compensi, e le più recenti stime indicano che lo stipendio medio, dichiarato da Nvidia, per un ingegnere hardware è di circa $202.000 all'anno.
Un motivo in più per supporre che la produzione, e la distribuzione, delle GPU H100 potrebbero essere molto più costose dei $3.320 segnalati da Kim. Bisogna però tenere in considerazione anche un altro aspetto molto importante: Tae Kim segue Nvidia da 30 anni e, in questo periodo, sta scrivendo proprio una biografia molto dettagliata dell'azienda; pertanto, quando si tratta di dettagli interni e di discussioni in merito ai costi che Nvidia sostiene, è molto probabile che sappia benissimo di cosa sta parlando.
Nvidia, al netto di tutto questo, è indubbio che stia cavalcando l'onda del successo generato dall'attuale boom delle IA e, per quanto il costo stimato da Kim richieda ulteriori verifiche, l'azienda sta vivendo una vera e propria "età dell'oro".