AI内卷新方向：闪迪CTO称“拼内存”时代开启 HBF明年整装待发

5月29日消息，闪迪（Sandisk）首席技术官阿尔珀·伊尔克巴哈尔近日表示，

首先，大语言模型变得更大、更智能，运行它们需要显著增加内存容量。其次，像OpenAI的ChatGPT、谷歌的Gemini和Anthropic的Claude这类系统，正越来越依赖所谓的KV缓存。

KV缓存可以理解为AI的“短期记忆”，帮助模型记住用户之前的输入和对话内容。随着上下文窗口不断增长，KV缓存对内存容量的需求也在急剧扩大。

与此同时，正逐步成为行业主流的“专家混合模型”——在一个大模型内部集成多个小型专家模型，仅针对特定请求调用所需部分——虽然节省了算力，却也带来了更高的内存需求。

阿尔珀补充说，过去存储芯片制造商主要依赖自身对需求的预测，很难判断扩大的产能最终能否被市场消化。而现在，客户会主动做出预先承诺，签署长期采购协议，以确保未来的供应。

针对近期引发资本市场关注的堆叠式闪存（HBF）技术，阿尔珀也给出了开发与上市时间表。

与存储三巨头（美光、三星、SK海力士）采用堆叠DRAM打造的HBM不同，基于NAND Flash的HBF有望提供更高的容量和更低的成本，同时在带宽表现上接近HBM，因而被视为AI推理场景中的潜在新型内存方案。目前，闪迪正与SK海力士合作，共同制定HBF技术标准。

阿尔珀表示：