In occasione del Computex 2024, il Computer Expo di Taipei, Intel ha presentato nuove tecnologie per accelerare l'ecosistema di intelligenza artificiale dai data center al cloud, fino all'edge e ai PC.
"L'IA sta guidando una delle più significative ere mai viste dal nostro settore” ha commentato Pat Gelsinger, CEO di Intel. "Ancora una volta, la magia del silicio consente all’informatica di fare progressi che estenderanno i confini del potenziale umano e alimenteranno l’economia globale per gli anni a venire".
Nel corso del suo keynote, Gelsinger ha sottolineato i vantaggi dello scegliere gli standard aperti e dell'ecosistema Intel che contribuiscono ad accelerare le opportunità dell'intelligenza artificiale.
Per supportare ulteriormente l'adozione dell'IA e rendere la tecnologia più accessibile, la compagnia ha annunciato il primo componente della famiglia Xeon 6 e ha condiviso un'anteprima dei kit di accelerazione IA Gaudi.
I nuovi processori Intel Xeon 6
Nel corso dell'evento, Intel ha annunciato i nuovi processori Xeon 6 per migliorare le prestazioni e l'efficienza energetica per carichi di lavoro scalabili ad alta densità.
La piattaforma Xeon 6 e l'intera famiglia di processori sono progettati per aiutare le imprese a modernizzare i propri data center, ridurre i costi, raggiungere gli obiettivi di sostenibilità e creare nuove funzioni digitali. SKU E-core (Efficient-core) e P-core (Performance-core) abilitano un'ampia gamma di casi d'uso e carichi di lavoro, non solo per l'IA.
Sia gli E-core che i P-core sono costruiti su un'architettura compatibile con uno stack software condiviso e un ecosistema aperto di fornitori hardware e software.
Il primo processore della famiglia a debuttare è lo Xeon 6 E-core (nome in codice Sierra Forest), immediatamente disponibile; a seguire, nel prossimo trimestre, arriverà sul mercato anche Xeon 6 P (nome in codice Granite Rapids).
Xeon 6 E-core offre un'elaborazione efficiente con costi energetici inferiori. Grazie alle prestazioni elevate e la maggiore efficienza energetica, questo processore è adatto per i carichi di lavoro più intensivi come applicazioni clou native e reti di distribuzione di contenuti.
Il processore promette inoltre notevoli vantaggi in termini di densità, consentendo di consolidare i rack con un fattore di 3 a 1 su carichi di lavoro di transcodifica multimediale. Intel specifica un risparmio di prestazioni rispetto agli Xeon di seconda generazione fino a 4,2 volte e un guadagno di prestazioni per watt fino a 2,6 volte.
Gli acceleratori Gaudi
Gli acceleratori Gaudi sono progettati per lavorare come un unico sistema con i processori Xeon e permettere alle aziende di sfruttare appieno la potenza dell'IA generativa in modo veloce e con costi ridotti.
I processori Xeon sono gli head node CPU ideali per carichi di IA e insieme a Gaudi offrono una soluzione potente che si integra nell'infrastruttura esistente. La proposta è l'unica alternativa a Nvidia H100 con benchmark MLPerf per l'addestramento e l'inferenza degli LLM. Gaudi offre elevate prestazioni di GenAI con vantaggi in termini di rapporto prezzo-prestazioni, tempi di implementazione rapidi e costi di esercizio inferiori.
Intel stima che un kit IA standard comprendente otto acceleratori Intel Gaudi 2 con universal baseboard offerto a 65.000 dollari abbia un costo pari a un terzo rispetto a piattaforme concorrenti paragonabili. Un kit comprendente otto acceleratori Intel Gaudi 3 con UBB costerà invece 125.000 dollari, a circa due terzi del costo di piattaforme concorrenti paragonabili.
I Gaudi 3 offriranno miglioramenti delle prestazioni per le attività di addestramento e inferenza sui principali modelli GenAI. Intel prevede che Gaudi 3 in un cluster da 8.192 acceleratori offra un time-to-train fino al 40% più veloce rispetto al cluster GPU Nvidia H100 di dimensioni equivalenti e un throughput di training fino al 15% più veloce rispetto a Nvidia H100 per un cluster da 64 acceleratori sul Modello Llama2-70B.
Inoltre, Intel parla di un'inferenza fino a 2 volte più veloce rispetto a Nvidia H100, eseguendo LLM comuni quali Llama-70B e Mistral-7B.
Per rendere questi sistemi ampiamente disponibili, Intel sta collaborando con almeno 10 tra i più importanti fornitori di sistemi a livello mondiale, inclusi sei nuovi nomi; questi includono Asus, Foxconn, Gigabyte, Inventec, Quanta e Wistron e consentono a fornitori quali Dell, Hewlett-Packard Enterprise, Lenovo e Supermicro di estendere la loro offerta.
"Intel è una delle poche aziende al mondo a innovare nell'intero spettro dell'intelligenza artificiale: dalla produzione di semiconduttori ai sistemi PC, di rete, edge e data center. Le nostre ultime piattaforme Xeon, Gaudi e Core Ultra, unite alla potenza del nostro ecosistema hardware e software, offrono soluzioni flessibili, sicure, sostenibili ed economiche che consentono ai nostri clienti di massimizzare le immense opportunità che il futuro presenta" ha concluso Gelsinger.
