消息称美光正探索开发近GPU NAND闪存以运行更大的LLM

📋总体概括

据报道，美光正探索开发「近GPU NAND」架构，将高耐久性NAND闪存模块部署在靠近GPU的位置，面向不需要HBM或常规DRAM级延迟与带宽的工作负载。该方案密度低于传统TLC/QLC NAND，但重点提升I/O速度、带宽和读取速度，可让GPU直接访问数百GB存储池，目标是缓解大语言模型受内存容量限制的问题。这是美光在AI存储分层上的一次新尝试，试图在HBM、DRAM与SSD之间开辟新层级。