La carenza di GPU ha creato una sfida significativa per l'industria dell'intelligenza artificiale (AI) e del calcolo ad alte prestazioni (HPC). Secondo il presidente di TSMC, Mark Liu, questa carenza è principalmente dovuta alle limitazioni della capacità di imballaggio chip-on-wafer-on-substrate (CoWoS) dell'azienda e si prevede che persista per circa 18 mesi.
Secondo il presidente Liu, la carenza non è dovuta alla mancanza di chip per l'AI, ma piuttosto alla capacità limitata di packaging CoWoS di TSMC. Attualmente, l'azienda non può soddisfare il 100% delle esigenze dei clienti, ma cerca di supportare circa l'80%. Questa situazione è dovuta alla crescente domanda di applicazioni AI generative e alla relativamente lenta espansione della capacità del nuovo sistema di packaging CoWoS presso TSMC.
La domanda di chip CoWoS è aumentata in modo inaspettato all'inizio di quest'anno, triplicando rispetto all'anno precedente. Questo è stato causato dalla crescente richiesta di servizi AI generativi e dell'hardware adeguato per supportarli. Questo hardware include Nvidia A100 e H100, due delle migliori GPU sul mercato AI, fondamentali per modelli di linguaggio estesi come ChatGPT.
TSMC è ben consapevole della crescente domanda di servizi AI generativi e sta accelerando l'espansione della sua capacità CoWoS. Attualmente, l'azienda sta installando ulteriori strumenti presso le sue strutture avanzate di packaging, ma questo processo richiede tempo, con l'aspettativa che la capacità di CoWoS raddoppi solo entro la fine del 2024.
Inoltre, TSMC ha recentemente annunciato l'intenzione di investire 2,9 miliardi di dollari in una nuova struttura dedicata al packaging avanzato dei chip, situata vicino a Miaoli, Taiwan.
La focalizzazione sull'imballaggio avanzato dei chip non è esclusiva di TSMC; altri giganti del settore come Intel e Samsung stanno anch'essi ponendo l'accento su questo aspetto. Intel, ad esempio, mira a quadruplicare la sua capacità per il packaging dei suoi chip di fascia alta entro il 2025. Anche le società tradizionali di assemblaggio e test esternalizzato (OSAT) come ASE e Amkor stanno sviluppando tecnologie simili a CoWoS, ma devono ancora raggiungere una capacità comparabile a quella di TSMC, Intel e Samsung.