端侧设备的 AI 应用面临内存瓶颈问题，特别是在模型训练和推理阶段，计算资源往往在耗尽之前就会遭遇内存墙限制。这一技术难题制约了 AI 工作负载的执行效率，影响了从智能手机到自动驾驶汽车等各类应用场景的性能表现。

【端侧 AI 推理的技术需求】

端侧 AI 推理可带来切实的好处，包括缩短网络延迟、加强隐私保护、减少对网络连接的依赖、降低运营成本、提高能效等。通过在本地处理数据，而非将数据发送到云端，端侧设备可提供速度更快、响应更灵敏的 AI 体验。本地数据处理还可避免在端侧设备和数据中心之间不断地来回传输大量数据集，从而能够节省大量能源。Gartner 预测，2025 年支持生成式 AI 的端侧设备硬件支出将增长 99.5%，达到 39 亿美元。

【美光内存技术在端侧应用的特性】

高带宽内存 HBM 可有效缓解云端的瓶颈，而美光 LPDDR5X 则为端侧设备提供了高带宽与高能效。这些内存技术可确保 AI 工作负载能高效快速执行，无论它们位于端侧还是云端。美光的产品基于业界前沿制程节点，能效表现卓越，其中采用美光前沿 1γ 制程节点的产品更在业界同类产品中脱颖而出。美光的节能型内存和存储解决方案组合能够在各类端侧设备上实现 AI，包括汽车、智能手机、PC 等。

【分布式 AI 模型的存储架构】

融合便捷端侧计算与大规模云计算的分布式模型，正成为 AI 工作负载的解决方案。AI 数据中心需要构建完整的内存与存储层级架构，包括高密度 DDR5 模块、LPDDR5X、采用美光 CZ122 的 CXL 扩展内存池、采用美光 9650 NVMe SSD 的本地 SSD 数据缓存，以及采用美光 6600 ION 的联网数据湖。端侧智能设备需要均衡的内存和存储组合配置，以保持 AI 工作负载的持续响应。LPDDR5X 等低功耗 DRAM 可提供实时处理所需的带宽，而快速、高效的存储可用于处理模型数据和推理结果。

【应用场景中的技术表现】

随着 AI 持续演进，内存与存储在端侧应用及设备中的重要性不容忽视。无论是手机、PC 和汽车领域的企业，还是工业与机器人行业的先行者，都必须优先考虑这些核心器件，方能确保其 AI 工作负载的成功运行。从端侧 AI 到物联网设备，各行各业的客户都依靠美光的优势地位与专业积淀，来有效应对这些数据挑战。美光的技术不仅能存储数据，更能将数据转化为切实可行的智能洞察，加速价值兑现。端侧 AI 正在重塑实时决策的发生场景，借助先进的内存和存储技术，分布式 AI 正在成为现实。