LinkedIn mantiene stabile l’investimento in GPU per il prossimo anno fiscale
LinkedIn non prevede di aumentare la spesa per hardware AI nel prossimo anno fiscale, mantenendo invariato l'investimento in GPU.
In Breve
- Qual è la previsione di LinkedIn per la spesa in GPU nel prossimo anno fiscale?
- LinkedIn prevede di mantenere invariato l'investimento in GPU, senza aumenti significativi.
- Come ha migliorato LinkedIn l'efficienza delle sue GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nella gestione dei carichi di lavoro.
- Qual è la strategia di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio diverso da Microsoft, che sta espandendo significativamente la propria infrastruttura.
LinkedIn ha comunicato che per il prossimo anno fiscale non prevede un aumento significativo della spesa per hardware dedicato all’intelligenza artificiale (AI). L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage mantenuta all’incirca invariata. La decisione è stata motivata da un raddoppio dell’efficienza delle GPU esistenti, raggiunto in circa sei mesi, grazie a miglioramenti nell’utilizzo delle risorse e nella gestione dei carichi di lavoro.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono nuove funzionalità più esigenti dal punto di vista computazionale. Questo approccio si distingue nettamente dalla strategia di espansione infrastrutturale adottata da Microsoft, che controlla LinkedIn dal 2016. Infatti, Microsoft ha registrato una spesa in conto capitale di 41 miliardi di dollari nell’ultimo trimestre, aggiungendo 31 data center nel trimestre e 88 nell’intero anno, con previsioni di oltre 50 miliardi per il trimestre corrente.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, che è stato sospeso nel 2022. Da allora, la società ha scelto di investire in data center propri, situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è considerato un fattore chiave per ottimizzare l’efficienza operativa, trattando l’efficienza come un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariati storage e compute per un anno è un risultato significativo, frutto di un lavoro considerevole. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica, e includono un migliore utilizzo delle GPU, una riallocazione più efficiente dei carichi di lavoro e la distillazione di modelli complessi in versioni più compatte.
Questa scelta di stabilità è anche una risposta a una dinamica di costi crescente: il costo per singola query era in aumento, mentre la quantità di dati immagazzinati raddoppiava ogni anno, una situazione considerata insostenibile. LinkedIn non afferma di aver risolto definitivamente il problema, ma la strategia rappresenta un’alternativa alla tendenza generale di crescita proporzionale dell’hardware. La sua efficacia dipenderà dalla capacità del programma di mantenere l’efficienza nel tempo.
