LinkedIn: Investimenti in GPU Stabili per il Futuro

LinkedIn ha dichiarato che non prevede di aumentare in modo significativo la spesa per hardware dedicato all’intelligenza artificiale (AI) nel prossimo anno fiscale. L’azienda manterrà sostanzialmente invariato il suo investimento in GPU, così come l’impronta di calcolo e storage.

Secondo quanto riportato, LinkedIn ha raddoppiato l’efficienza delle GPU esistenti in circa sei mesi. Questo è stato possibile grazie a miglioramenti nell’utilizzo delle GPU, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro. L’azienda intende utilizzare questo margine operativo per sviluppare nuove funzionalità, piuttosto che investire in nuovo hardware.

Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo, mentre si introducono funzionalità più esigenti dal punto di vista computazionale. Questa strategia si colloca in un contesto in cui LinkedIn, controllata da Microsoft dal 2016, adotta un approccio diverso rispetto all’espansione infrastrutturale del colosso tecnologico. Infatti, Microsoft ha registrato 41 miliardi di dollari di spesa in conto capitale nell’ultimo trimestre, aggiungendo 31 data center nel trimestre e 88 nell’anno, con previsioni di oltre 50 miliardi per il trimestre corrente.

In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, l’azienda ha deciso di investire in data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack infrastrutturale è considerato un fattore abilitante, poiché consente di monitorare e ottimizzare ogni livello, trattando l’efficienza come un investimento continuo.

Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere per un anno senza incremento di storage e compute è «non una piccola impresa» e ha richiesto un notevole impegno. I miglioramenti sono descritti come accumulati, piuttosto che derivati da un’unica innovazione tecnologica. Tra le strategie adottate ci sono un migliore utilizzo delle GPU, la riallocazione dei carichi di lavoro, la distillazione di modelli più grandi in versioni più piccole e una riprogettazione della divisione del lavoro tra training, inference, storage e progettazione dei sistemi.

La scelta di LinkedIn è anche motivata dalla dinamica dei costi: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una tendenza che è stata giudicata insostenibile. Tuttavia, LinkedIn non afferma di aver risolto definitivamente il problema; piuttosto, la sua strategia rappresenta un’alternativa alla crescita proporzionale dell’hardware, la cui efficacia dipenderà dalla capacità del programma di efficienza di mantenere i risultati nel tempo.