AMD, future GPU a prova d’intelligenza artificiale con bfloat16
Secondo quanto emerso da un recente aggiornamento delle librerie ROCm presenti su GitHub, una futura architettura grafica di AMD potrebbe supportare bfloat16 (brain floating point 16) direttamente in hardware.
Bfloat16 è un formato a virgola mobile creato da Google e legato al mondo dell’intelligenza artificiale. Intel lo supporta con le CPU Xeon “Cooper Lake” e sta lavorando a stretto contatto con Facebook per ottimizzarne l’implementazione e la fruizione.
“Bfloat16 migliora le prestazioni offrendo lo stesso range dinamico delle rappresentazioni in virgola mobile a 32 bit, accelerando l’allenamento delle AI per vari carichi come la classificazione delle immagini, il riconoscimento della parola, traduzioni e altri compiti”, dichiarava in merito Intel.
Si tratterebbe di un significativo passo in avanti rispetto all’attuale standard FP16 in uso sulle GPU AMD di ultima generazione. Benefici ristretti al campo delle IA, quindi si sta parlando di un’architettura per quel settore (dove attualmente AMD propone la gamma Radeon Instinct), non gaming.
In particolare Bfloat16 offre un range di calcolo molto più ampio di FP16, il che finora ha costretto alcuni ricercatori a ripiegare sui FP32, meno efficiente.
Bfloat16 usa tre bit significativi in meno rispetto a FP16 (8 vs 11 bit), mentre offre 8 bit di esponente contro i 5 offerti da FP16. Trattandosi di una versione troncata di FP32, Bfloat16 riduce inoltre l’overflow e l’underflow che si verificano durante le conversioni a FP32 rispetto a FP16.
