Modder trasforma un Ryzen da 90 euro in una GPU da 16GB per l'IA

Un interessante esperimento motra come sia possibile gestire delle applicazioni per l'intelligenza artificiale con un setup molto economico.

Avatar di Andrea Maiellano

a cura di Andrea Maiellano

Author

Il recente processore Ryzen 5 5600G (Cezanne) ha preso il posto del Ryzen 5 4600G (Renoir) come una delle migliori CPU dedicate al gaming. Tuttavia, è emerso un importante aspetto che ha riportato in auge il Ryzen 5 4600G, trasformando l'APU budget Zen 2 in una sorta di scheda grafica da 16GB, capace di eseguire applicazioni per l'intelligenza artificiale su Linux.

Non tutti hanno i mezzi per acquistare, o noleggiare, una costosa Nvidia H100 (Hopper) per sperimentare con l'IA, e, con la crescente richiesta di schede grafiche focalizzate sull'IA, potrebbe anche non essere possibile ottenerne una in tempi brevi, neppur se si hanno a disposizione i fondi necessari. Un utente su Reddit, però, è venuto in soccorso degli utenti e ha dimostrato come un Ryzen 5 4600G, che si trova a circa 90 euro, possa affrontare i vari carichi di lavoro necesari per sfruttare un'intelligenza artificiale.

Il Ryzen 5 4600G, rilasciato nel 2020, è un APU esacore a 12 thread con core Zen 2, la quale opera con frequenze di base di 3.7 GHz e boost di 4.2 GHz. Questa CPU da 65W è dotata anche di una Radeon Vega iGPU con sette unità di calcolo e una frequenza che va fino a 1.9 GHz. Va tenuto presente che le APU non dispongono di memoria dedicata ma condividono quella di sistema.

È possibile stabilire la quantità di memoria tramite il BIOS della scheda madre. In questo caso, l'utente di Reddit aveva 32GB di DDR4 e ne aveva allocati 16GB per il Ryzen 5 4600G. Solitamente, 16GB rappresentano la quantità massima di memoria che si può dedicare all'iGPU, tuttavia, alcuni rapporti sostengono che alcune schede madri AMD ASRock, permettano un'allocazione di memoria superiore, che arriva, addirittura, fino a 64GB.

Il metodo consente nel trasformare il Ryzen 5 4600G in una "scheda grafica" da 16GB, con più memoria rispetto a certi modelli di Nvidia, come la GeForce RTX 4070 o la GeForce RTX 4070 Ti, che sono limitate a 12GB. Ovviamente, l'APU non può competere in termini di prestazioni con una scheda grafica di fascia alta ma almeno non si esaurirà la memoria durante i carichi di lavoro dedicati all'IA, poiché 16GB si rivelano più che sufficienti per i compiti meno impegnativi.

La piattaforma di calcolo aperta Radeon (ROCm) di AMD non supporta ufficialmente le APU Ryzen, tuttavia, aziende terze come BruhnBruhn Holding, offrono pacchetti sperimentali di ROCm compatibili con le APU. Ciò significa che le APU possono collaborare con i framework PyTorch e TensorFlow, aprendo così le porte alla maggior parte dei software dedicati all'intelligenza artificiale. Sorge la curiosità riguardo alla possibilità che gli ultimi chip Ryzen di AMD pensati per il mercato mobile, come il Phoenix che sfrutta la memoria DDR5, possano funzionare alla stessa maniera e, nel caso, quali prestazioni possano offrire.

Un utente di Reddit ha condiviso un video apparso su YouTube, il quale mostra che il Ryzen 5 4600G può gestire numerose applicazioni dedicate all'intelligenza artificiale, quali Stable Diffusion, FastChat, MiniGPT-4, Alpaca-LoRA, Whisper, LLM e LLaMA. Purtroppo, nel video, vengono mostrate solo delle dimostrazioni relative a Stable Diffusion, un generatore di immagini basato su input di testo. L'autore, inloltre, non è entrato nel dettaglio su come sia riuscito a far funzionare il Ryzen 5 4600G con il software di intelligenza artificiale sul suo sistema Linux ma ha promesso di pubblicare un video completo relativo al processo di configurazione nei prossimi giorni.

Per quanto riguarda le prestazioni, il Ryzen 5 4600G ha impiegato appena un minuto e cinquanta secondi per generare un'immagine da 512 x 512 pixel con l'impostazione predefinita di 50 passaggi. È un risultato eccellente per un APU da $95 e si avvicina alle prestazioni di alcuni processori di fascia alta. L'autore del video ha dichiarato di aver utilizzato la memoria DDR4 ma, nuovamente, non è sceso nel dettaglio per quanto riguarda le specifiche tecniche.

L'esperimento rappresenta una soluzione indubbiamente interessante per coloro che possiedono un Ryzen 5 4600G, o un Ryzen 5 5600G, e vogliono sperimentare con l'IA. Tuttavia, per chi non possiede tale componentistica, investire 500$ in una configurazione del genere potrebbe non essere la scelta più sensata, considerando che è possibile acquistare, per lo stesso prezzo, una scheda grafica capace di offrire prestazioni superiori.