In Breve
- Qual è la previsione di LinkedIn per la spesa in GPU?
- LinkedIn non prevede di aumentare significativamente la spesa per hardware AI nel prossimo anno fiscale.
- Come ha migliorato LinkedIn l'efficienza delle GPU?
- LinkedIn ha raddoppiato l'efficienza delle GPU esistenti grazie a miglioramenti nell'utilizzo e nell'allocazione dei carichi di lavoro.
- Qual è l'approccio di LinkedIn rispetto a Microsoft?
- LinkedIn adotta un approccio più conservativo rispetto alla consistente espansione infrastrutturale di Microsoft.
LinkedIn ha annunciato che non prevede di aumentare significativamente la spesa per l’hardware dedicato all’intelligenza artificiale (AI) nel prossimo anno fiscale. L’investimento in GPU rimarrà sostanzialmente piatto, con l’impronta di calcolo e storage mantenuta invariata. Questa decisione si basa su un incremento dell’efficienza delle GPU esistenti, raddoppiata in circa sei mesi grazie a miglioramenti nell’utilizzo, nella distillazione dei modelli e nell’allocazione dei carichi di lavoro.
Erran Berger, CTO dell’ingegneria, ha spiegato che l’obiettivo è mantenere stabile il footprint di calcolo mentre si introducono nuove funzionalità più esigenti dal punto di vista computazionale. Questo approccio si discosta da quello di Microsoft, che controlla LinkedIn dal 2016 e ha recentemente registrato una spesa in conto capitale di 41 miliardi di dollari, con l’aggiunta di 31 data center solo nell’ultimo trimestre.
In passato, LinkedIn aveva avviato un progetto di migrazione su Azure, noto come Blueshift, ma nel 2022 ha deciso di sospenderlo, puntando invece su data center propri situati in Oregon, Texas e Virginia. Avere il controllo dell’intero stack tecnologico è visto come un fattore chiave per monitorare e ottimizzare ogni livello del sistema, rendendo l’efficienza un investimento continuo.
Raghu Hiremagalur, CTO per l’infrastruttura, ha sottolineato che mantenere invariato il storage e il compute per un anno è un’impresa significativa, che ha richiesto un notevole impegno. I miglioramenti ottenuti sono il risultato di un approccio cumulativo, piuttosto che di una singola innovazione tecnologica. Questi includono un utilizzo più efficiente delle GPU, la riallocazione dei carichi di lavoro e la distillazione di modelli più complessi in versioni più compatte.
Il cambiamento è anche una risposta alla dinamica dei costi, con il costo per singola query in aumento e la quantità di dati immagazzinati che raddoppia ogni anno, una tendenza che LinkedIn ha giudicato insostenibile. Nonostante ciò, la società non afferma di aver risolto definitivamente il problema; la sua strategia rappresenta un’alternativa alla crescita proporzionale dell’hardware, e la sua efficacia dipenderà dalla capacità di mantenere nel tempo il programma di efficienza attuato.
