Microsoft ha rivelato durante la conferenza Ignite i propri chip AI personalizzati: il Microsoft Azure Cobalt 100 CPU, basato su architettura Arm, e il Microsoft Azure Maia AI Accelerator, una GPU ottimizzata per l'AI generativa e i modelli linguistici ampi.
Entrambi sono previsti per il 2024, e data la domanda attuale per l'hardware NVIDIA come le GPU H100, potrebbe vedere Microsoft e il suo enorme cloud Azure muoversi verso l'acquisizione di chip costosi da altre società.
Il CPU Azure Cobalt 100 e l'AI Accelerator Azure Maia 100 sono stati sviluppati internamente da Microsoft, insieme a un rivoluzionario aggiornamento dell'intero stack del server cloud Azure all'inizio dell'Era dell'AI.
Il Maia 100 AI Accelerator utilizza il processo TSMCC a 5 nm con 105 miliardi di transistor, valore superiore agli 80 miliardi della GPU Hopper H100 di NVIDIA, ma inferiore ai 153 miliardi presenti sulla GPU AI MI300X di AMD, costruita su un processo simile a 5 nm.
Scott Guthrie, vicepresidente esecutivo di Cloud + AI di Microsoft, sottolinea l'importanza di ottimizzare ogni aspetto dell'infrastruttura per massimizzare le prestazioni e diversificare la catena di approvvigionamento.
Questi nuovi chip saranno installati nei data center Microsoft per alimentare servizi come Copilot e OpenAI. OpenAI, un leader nell'AI e nei modelli linguistici, ha collaborato con Microsoft nel co-design di tali chip.
Il Maia 100 è in fase di test su GPT 3.5 Turbo e non si condividono al momento specifiche complete o benchmark. Microsoft intende continuare a collaborare con aziende come NVIDIA e AMD per integrare hardware nei sistemi AI.
L'Azure Cobalt 100 CPU, basato su architettura Arm a 128 core con istruzioni Armv9 a 64 bit, promette un incremento prestazionale fino al 40% rispetto ai processori Arm attuali in uso su Azure.