L'intelligenza artificiale sta aprendo spazi a nuove realtà del settore hardware e tra queste troviamo Graphcore, una realtà fondata nel Regno Unito a Bristol 2016 che recentemente ha trovato uno spazio nei servizi Azure di Microsoft - e nella quale la casa di Redmond ha investito 200 milioni di dollari.
Perché Microsoft ci crede tanto? Graphcore ha progettato da zero i suoi chip per supportare i calcoli che aiutano i computer a riconoscere i volti, comprendere/analizzare il linguaggio, guidare le auto e addestrare i robot. Tutto quello che insomma vuol dire intelligenza artificiale.
Graphcore si aspetta che i suoi chip - chiamati intelligence processing units (IPU) - cattureranno l'attenzione di aziende che svolgono operazioni business-critical sull'intelligenza artificiale, come startup per la guida autonoma, società finanziarie e operazioni che elaborano grandi quantità di video e audio. Inoltre tutti coloro che lavorano sugli algoritmi legati all'intelligenza artificiale di prossima generazione potrebbero trovare vantaggi nella piattaforma.
Secondo Microsoft, i chip di Graphcore sono alla pari o superano le prestazioni delle proposte di Nvidia e Google usando algoritmi scritti per quelle piattaforme concorrenti. Il codice scritto appositamente per l'hardware di Graphcore potrebbe essere ancora più efficiente.
Le aziende affermano che alcune attività di elaborazione delle immagini funzionano molte volte più velocemente sui chip di Graphcore. Dicono anche di aver allenato un popolare modello di IA per l'elaborazione del linguaggio, BERT, a velocità corrispondenti a quelle di qualsiasi altro hardware esistente.
BERT è diventato estremamente importante per le applicazioni di intelligenza artificiale che coinvolgono il linguaggio. Google ha recentemente affermato di usare BERT per la sua attività legate alla ricerca. Microsoft sta usando i chip di Graphcore per progetti di ricerca interni sull'IA che coinvolgono l'elaborazione del linguaggio naturale.
Secondo Karl Freund di Moor Insights i risultati del chip di Graphcore danno l'idea di una soluzione altamente specializzata capace di superare le proposte di Nvidia o Google, ma che al tempo stesso potrebbe essere difficilmente programmabile per sviluppare nuove applicazioni. "Hanno fatto un buon lavoro rendendolo programmabile. Le buone prestazioni sia in allenamento che in inferenza sono qualcosa che hanno sempre detto che avrebbero ottenuto, ma è davvero molto difficile".
L'accordo con Microsoft è importante per il business di Graphcore perché dà ai clienti la possibilità di provare il nuovo hardware. Graphcore ha creato un framework chiamato Poplar, che consente il porting dei programmi per l'IA esistenti sul nuovo hardware. Nigel Toon, cofondatore e CEO di Graphcore, ha affermato che la collaborazione con Microsoft è partita un anno dopo l'avvio dell'azienda, tramite Microsoft Research Cambridge.
I chip di Graphcore sono particolarmente adatti ad attività che coinvolgono modelli di intelligenza artificiale di grandi dimensioni o dati temporali. Un cliente nel settore finanziario sembra abbia ravvisato un aumento delle prestazioni di 26 volte in un algoritmo usato per analizzare i dati di mercato grazie all'hardware di Graphcore.
Una manciata di altre piccole aziende hanno annunciato che stanno lavorando con i chip Graphcore tramite Azure. Tra queste Citadel, che userà i chip per analizzare i dati finanziari, e Qwant, un motore di ricerca europeo che sfrutterà l'hardware per un algoritmo di riconoscimento delle immagini noto come ResNext.
I chip di Graphcore hanno molti più core di GPU o TPU. Sono inoltre dotati di memoria sul chip stesso, aspetto che rimuove un collo di bottiglia derivante dallo spostamento continuo dei dati. Anche Facebook sta lavorando su chip proprietari e Amazon lo stesso.
Graphcore e pochi altri progettano chip così malleabili e decisivi per lo sviluppo di applicazioni di IA, ma anche più impegnativi da produrre. L'ultimo giro di investimenti ha portato Graphcore a valere 1,7 miliardi di dollari.