AMD ha dato il via a una nuova ondata di competizione con NVIDIA cominciando a distribuire ai propri clienti le Instinct MI300X, le nuove GPU pensate per le applicazioni di intelligenza artificiale e high-performance computing.
A riportare la notizia è stata Tom's Hardware US dopo il tweet di Sharon Zhou, CEO di LaminiAI, che mostra "la prima AMD MI300X live in produzione". L'azienda di Zhou è specializzata in soluzioni per l'esecuzione e la specializzazione di LLM per applicazioni di livello enterprise, e da anni collabora a stretto contatto con AMD.
"Come pane appena sfornato, 8x MI300X è online. Se state sviluppando usando LLM open e siete bloccati nella computazione, fatemelo sapere. Tutti dovrebbero avere accesso a questa tecnologia magica chiamata LLM. Ciò significa che il prossimo lotto di pod LLM LaminiAI è arrivato" ha aggiunto Zhou, senza nascondere l'entusiasmo per l'arrivo delle nuove GPU.
La serie Instinct MI300, annunciata lo scorso 6 dicembre, è costruita sull'architettura CDNA 3 che mette a disposizione le tecnologie Matrix Core per aumentare il throughtput computazionale grazie al parallelismo a livello di istruzioni.
Secondo il benchmark condiviso da AMD, la serie Instinct MI300X supera di 1.3 volte le performance della GPU H100 SXM5 di NVIDIA nei carichi di lavoro di IA nelle implementazioni TF32, FP16/BF16 e FP8.
LaminiAI è la prima compagnia a confermare l'arrivo delle nuove GPU, ma secondo alcuni report anche Meta e Microsoft avrebbero ordinato le Instinct MI300X in grandi quantità. Sarà interessante capire se le nuove GPU AMD saranno anche in grado di superare le H200 141GB di NVIDIA, presentate lo scorso novembre e non ancora distribuite sul mercato.