L'intelligenza artificiale addestrata con chip analogici potrebbe essere la soluzione al problema dei consumi, secondo IBM

IBM ha annunciato dei progressi significativi nella ricerca di soluzioni alternative per l'addestramento dei modelli di intelligenza artificiale: l'azienda sta sviluppando dei chip ibridi analogici-digitali che sembrano offrire prestazioni significative pur contenendo i consumi energetici, uno dei grandi problemi che stanno emergendo con l'adozione su vasta scala dell'IA.

L'intelligenza artificiale addestrata con chip analogici

Uno dei principali problemi che sta affrontando il settore dell'intelligenza artificiale, e di conseguenza anche i settori collegati della progettazione dei chip e dei data center, è il consumo energetico dei server usati per l'addestramento dei modelli. Se gli armadi rack normali sono infatti pensati per consumare fino a 10 kW, quando si parla di IA alcuni operatori di data center stanno arrivando a supportare fino a 70 kW.

Si tratta di un problema rilevante su più piani: da un lato c'è il fatto che il costo dell'energia per effettuare l'addestramento è estremamente alto; dall'altro c'è il problema di eliminare la quantità molto significativa di calore prodotto in questo modo; da ultimo c'è la difficoltà di progettare sistemi sostenibili dal punto di vista termico.

Secondo i ricercatori di IBM, una possibile soluzione potrebbe essere l'impiego di chip analogico-digitali. Come descritto in uno studio pubblicato su Nature Electronics, un chip che usa una batteria di memorie a cambiamento di fase (PCM, dall'inglese phase-change memory) e alcuni circuiti digitali potrebbe offrire prestazioni almeno comparabili a quelle dei sistemi basati su GPU pur contenendo i consumi.

Non si tratta, in realtà, della prima iterazione di questo concetto: IBM aveva già sviluppato un simile chip all'interno del suo progetto HERMES, presentato nel 2021, con 34 elementi; il nuovo chip, tuttavia, ne presenta 64. Tali elementi di calcolo sono connessi tramite una rete di comunicazione sul chip stesso e hanno funzioni aggiuntive necessarie per elaborare le reti neurali convoluzionali.

L'elaborazione dei dati avviene direttamente nelle memorie PCM e ciò elimina il problema di dover trasferire i dati tra la memoria e il processore, fatto che, secondo IBM, porta a un significativo abbassamento dei consumi energetici. L'uso di matrici pesate per effettuare moltiplicazioni, in cui il peso da assegnare agli elementi viene inserito nelle celle di memoria, consente di addestrare le reti neurali profonde (deep neural networks), mentre l'uso di unità di calcolo globali digitali (GDPU) aggiunge la possibilità di elaborare digitalmente i dati per le reti convoluzionali e a lunga memoria a breve termine (LSTM, long short-term memory).

Secondo IBM, i risultati di questi chip sono comparabili a quelli dei calcoli effettuati con i metodi "tradizionali", con un'accuratezza del 92,81% sul set di immagini CIFAR-10.

L'azienda non fornisce un paragone diretto con le GPU, ma afferma che un singolo input verso la rete ResNet-9 è stato elaborato in 1,52 μs e ha consumato μJ di energia. I chip vengono prodotti con processo a 14 nm presso l'Albany Nanotech Center di Albany, New York, della stessa IBM, e operano a 1 GHz di frequenza di clock.

Secondo IBM, è necessaria ancora dello sviluppo prima che questi chip possano diventare concorrenti significativi per le GPU, in particolare per quanto riguarda la densità di peso.