Si chiama Brainwave la nuova piattaforma per l'accelerazione dell'intelligenza artificiale di Microsoft. L'azienda ne ha parlato alla conferenza Hot Chips definendola un grande passo avanti sia nelle prestazioni che nella flessibilità, in quanto permette di gestire operazioni di AI in tempo reale.
"Il sistema processa le richieste il più rapidamente possibile, con latenza ultra bassa. L'IA in tempo reale è diventata una necessità d'importanza crescente in quanto le infrastrutture cloud processano flussi di dati in tempo reale, che siano richieste di ricerca, video, flussi raccolti da sensori o interazioni con gli utenti".
Microsoft ha selezionato gli FPGA Intel Stratix 10 come soluzione hardware della sua nuova piattaforma, preferendola per la sua flessibilità a soluzioni dedicate.
"Molti acceleratori AI attuali richiedono di raggruppare più richieste insieme (operazione chiamata batching) per raggiungere un'alta prestazione. Project Brainwave e la tecnologia Intel Stratix 10 hanno raggiunto una prestazione di 39,5 TFlops per una singola richiesta, stabilendo un nuovo standard per il calcolo AI in tempo reale nel cloud. Il tutto è avvenuto con una latenza sotto 1 millisecondo e senza dover raggruppare le operazioni insieme.
Secondo Microsoft c'è però spazio per ulteriori ottimizzazioni che potrebbero portare a raggiungere 90 teraflops. La casa di Redmond sta attualmente lavorando per integrare Project Brainwave nel cloud Azure in modo che i clienti usino complessi modelli di deep learning. Al momento Brainwave supporta modelli creati usando il framework CNTK di Microsoft e TensorFlow di Google, ma il team sta lavorando per renderlo compatibile con altri strumenti come Caffe.
L'intelligenza artificiale ti riguarda più di quanto pensi. Non sei convinto? Leggi questo libro e ti ricrederai!