KV Cache需求暴涨32倍，AI如何重写存储产业链的「旧分工」？| MemoryS 2026观察

作者 | 杨依婷 编辑 | 包永刚 去年的CFMS｜MemoryS峰会上，存储厂商们讨论的是：价格何时企稳、QLC何时上量、AI PC何时落地。彼时，“AI会让存储变得更基础、更关键”，还更像是一种行业判断，一种面向未来的趋势预演。 一年之后，站在MemoryS 2026的会场里，问题已经彻底变了。 人们谈论的不再只是位元成本、颗粒供给和容量节奏，而是GPU利用率、token成本、系统调度效率，甚至物理AI场景中的实时决策能力。那些原本属于AI基础设施和系统架构层面的议题，正在越来越频繁地出现在存储产业的讨论中心。 在传统计算架构里，存储的职责更多是“存”。数据被写入、留存，在需要时调取，不需要时则静静停留在系统边缘。它长期是BOM成本中的一项，是容量规划的问题，而很少直接参与算力效率的定义。 但在大模型训练与推理时代，这一角色被彻底改写。 KV Cache的访问延迟，开始直接影响token生成速率；Checkpoint的写入效率，决定着GPU在训练过程中的等待时间；SSD的IOPS密度，则进一步影响大模型推理场景下的并发能力和系统吞吐。 存储开始进入计算主路径，它决定数据流动的速度，也在某种程度上决定GPU算力能否被充分兑现。而这，正在反向重塑整个存储产业链的分工逻辑。 存储进入计算路径，旧分工开始失效 AI推理有一个被反复讨论的瓶颈：KV Cache。 大模型在处理长上下文时，需要把每一层、每一个token生成过程中的Key和Value结果临时保存下来，以避免重复计算。上下文越长，并发越高，这部分缓存的体量就越惊人。 当高带宽显存无法继续承接，KV Cache只能向下一层存储介质下沉，NVMe SSD由此正式进入大模型推理的实时数据路径。 如果说过去SSD的使命是“提升加载速度”，那么在AI时代，它开始直接约束或决定推理吞吐的上限。 慧荣科技总经理苟嘉章的总结更为直接：“新一代存储，正在从数据存储进入计算存储。” 这句话几乎点破了整个行业变化的本质。一旦存储进入计算路径，它就不再只是静态保存数据，而是开始影响token生成效率：访问时延影响输出速度，IOPS密度决定并发能力，