TECH

AI nella memoria: l'infrastruttura passa da GPU a storage specializzato per il contesto

AI nella memoria: l'infrastruttura passa da GPU a storage specializzato per il contesto

L'intelligenza artificiale affronta un nuovo collo di bottiglia infrastrutturale: non più la potenza di calcolo GPU, ma la gestione del contesto persistente nei sistemi agentici avanzati. Con context window che crescono esponenzialmente e sistemi AI che mantengono lo stato tra sessioni multiple per compliance e riutilizzo, i volumi di dati di contesto superano le capacità dei tradizionali tier di memoria. La soluzione emerge in un nuovo livello dedicato tra GPU e storage di rete: SSD ad alta performance e densità ottimizzati specificamente per memorizzare e servire il KV cache (la memoria chiave che permette ai modelli di conservare il contesto). Nvidia ha formalizzato questa architettura come CMX, mentre produttori di storage come Solidigm sviluppano soluzioni hardware specializzate. Questo shift rappresenta un'opportunità significativa per il settore storage e memoria, segnalando che l'industria AI sta maturando oltre i vincoli di pura compute verso infrastrutture più complesse e diversificate. Per gli investitori, implica un cambio di focus dagli acceleratori GPU verso fornitori di storage e memoria specializzata.

NVDA
Nvidia Corporation
208.91
-0.84%
NOW
ServiceNow Inc.
95.04
-0.46%
MU
Micron Technology
1134
+8.70%
VOW3.DE
Volkswagen AG
80.44
-4.35%
Chiedi all'AI su questa notizia →
SpaceX raccoglie miliardi in bond dopo record IPO, svela cassa da 100 miliardi
Apple Watch Series 11 sconta di $120: occasione per gli investitori di tecnologia indossabile
SpaceX raccoglie miliardi in bond per finanziare l'espansione AI
Bitdeer estrae 921 BTC in un mese, ma le riserve ridotte alimentano dubbi sulla strategia AI
← Tutte le notizie