快科技 5 月 29 日消息,闪迪(Sandisk)首席技术官阿尔珀 · 伊尔克巴哈尔近日表示,随着 AI 大模型、KV 缓存(键值缓存)以及专家混合模型(MoE)等技术的发展,全球 AI 竞赛正日益 " 以内存为中心 "。客户争相签署长期采购协议的力度,前所未见。
阿尔珀指出,当前 AI 领域的多个趋势都在将内存推向前所未有的关键位置。
首先,大语言模型变得更大、更智能,运行它们需要显著增加内存容量。其次,像 OpenAI 的 ChatGPT、谷歌的 Gemini 和 Anthropic 的 Claude 这类系统,正越来越依赖所谓的 KV 缓存。
KV 缓存可以理解为 AI 的 " 短期记忆 ",帮助模型记住用户之前的输入和对话内容。随着上下文窗口不断增长,KV 缓存对内存容量的需求也在急剧扩大。
与此同时,正逐步成为行业主流的 " 专家混合模型 " ——在一个大模型内部集成多个小型专家模型,仅针对特定请求调用所需部分——虽然节省了算力,却也带来了更高的内存需求。
近期,闪迪宣布达成 5 份供应协议,协议期限最长可达 5 年,预计将带来至少 420 亿美元的收入。
阿尔珀补充说,过去存储芯片制造商主要依赖自身对需求的预测,很难判断扩大的产能最终能否被市场消化。而现在,客户会主动做出预先承诺,签署长期采购协议,以确保未来的供应。
针对近期引发资本市场关注的堆叠式闪存(HBF)技术,阿尔珀也给出了开发与上市时间表。
与存储三巨头(美光、三星、SK 海力士)采用堆叠 DRAM 打造的 HBM 不同,基于 NAND Flash 的 HBF 有望提供更高的容量和更低的成本,同时在带宽表现上接近 HBM,因而被视为 AI 推理场景中的潜在新型内存方案。目前,闪迪正与 SK 海力士合作,共同制定 HBF 技术标准。
阿尔珀表示:" 我们相信下一个重大突破将是 HBF,我们正在设计一款 HBF 存储晶片,预计今年年底提供样品,随后配备控制器的完整产品计划于明年推出。"



登录后才可以发布评论哦
打开小程序可以发布评论哦