Altman: la RAM dei PC è uno spreco, meglio concentrarla nei datacenter. La community insorge

Secondo Sam Altman, la memoria DRAM che sta dentro i computer di casa viene sprecata. Il CEO di OpenAI lo ha detto in un'intervista al podcast YouTube Cheeky Pint, parlando di inferenza locale e di modelli open source e open-weight. Le sue parole hanno acceso la reazione di appassionati di informatica e giocatori su PC.

Il ragionamento di Altman parte dalla carenza di memoria. Eseguire modelli di intelligenza artificiale direttamente sui PC, ha sostenuto, non è una soluzione efficiente. Le scorte di DRAM disponibili dovrebbero invece essere concentrate nei datacenter, dove possono lavorare in modo continuo per un numero maggiore di utenti.

Altman ha descritto un'idea diffusa che, a suo giudizio, è sbagliata. Molte persone vogliono eseguire l'inferenza in locale e presumono che il problema sia risolto, perché ci saranno modelli open source da far girare sui propri computer e quindi non serviranno più tante risorse nei datacenter. Da una prospettiva di allocazione globale, ha detto, è piuttosto negativo che ciascuno abbia una quota delle limitate scorte mondiali di DRAM nel proprio PC, usata soltanto per il 5% del tempo. Per lavorare in un ambiente così vincolato, ha aggiunto, bisogna raggiungere il massimo utilizzo possibile nel cloud, e l'intuizione di molti va nella direzione opposta.

Il contesto commerciale pesa sul discorso. OpenAI offre soprattutto modelli proprietari, accessibili tramite servizi online e abbonamenti. L'esecuzione locale è un'alternativa per chi ha hardware abbastanza potente. I modelli open-weight, anche grazie al contributo di sviluppatori e aziende cinesi, hanno ampliato la possibilità di usare l'IA senza dipendere del tutto dai grandi fornitori cloud. Un PC con RAM adeguata e una GPU sufficientemente potente può già eseguire diversi modelli, con prestazioni che dipendono dalle dimensioni del modello e dall'hardware.

Se questa modalità si diffondesse ancora, potrebbe ridurre la dipendenza da servizi a pagamento e abbonamenti, almeno per certi compiti. Sarebbe un'evoluzione capace di mettere in discussione un modello economico basato sull'accesso remoto a capacità di calcolo controllate dai fornitori.

Le reazioni più dure sono arrivate dalla comunità PC. A essere contestata non è solo la questione dell'efficienza, ma l'idea che l'hardware installato nei computer sia uno spreco rispetto al suo impiego nei datacenter. Su Reddit un utente ha scritto che Altman sembra incapace di comprendere che le persone vogliano possedere i propri computer, come se fosse un'idea aliena. Un altro ha sostenuto che le aziende private, interessate solo al profitto, non dovrebbero prendere decisioni monumentali che toccano la gran parte della popolazione.

Le critiche si legano anche al ruolo che Altman rappresenta. L'industria dell'IA sta catalizzando la produzione di semiconduttori e drenando componenti dal mercato consumer, con prezzi saliti a livelli difficili da sostenere per un privato. Secondo la fonte, la situazione sembra destinata a durare diversi anni. Il confronto sul possesso dell'hardware e sulla concentrazione delle risorse nelle mani dell'industria IA resterà quindi aperto.