消息称美光正探索开发近GPU NAND闪存以运行更大的LLM

📋总体概括

据报道，美光正探索开发「近GPU NAND」高耐久性闪存模块，让NAND更靠近GPU，服务不需要HBM或常规DRAM那样高带宽、低延迟的工作负载。该方案密度虽低于传统TLC/QLC NAND，但重点提升I/O速度、带宽与读取速度，让GPU能直接访问数百GB存储池，从而缓解LLM推理的内存容量瓶颈。这一动向反映了AI浪潮下存储厂商绕开HBM成本困局、向计算架构深处渗透的新竞争方向。