8 月 27 日,华为举行数据存储 AI SSD 新品发布会,推出了三款 AI SSD 产品,分别为高性能系列的 HUAWEI OceanDisk EX 560 和 HUAWEI OceanDisk SP 560,以及大容量系列 HUAWEI OceanDisk LC 560,单盘容量将最高可达到 122/245 TB,实现业界最大单盘容量。
发布会上,华为公司副总裁、数据存储线总裁周跃峰表示,AI SSD(固态硬盘)将以技术创新提升 AI 业务体验,攻克效率与成本难关。
当前 AI 算力卡的显存容量,难以承载大模型记忆数据的爆炸式增长,传统 SSD 也因性能局限拖慢了大模型的响应速度,影响 AI 应用体验。
华为发布 AI SSD 意在打破 " 两堵墙 ":向上打破内存墙、向下打破容量墙。
AI SSD 是一款专为 AI 工作负载优化的高性能、大容量固态硬盘。该产品结合华为自研的多项核心技术,有望成为国产 SSD 突破的关键一步。
此前 8 月 12 日,华为正式发布 AI 推理创新技术 UCM(推理记忆数据管理器)。据了解,作为一款以 KV Cache 为中心的推理加速套件,UCM 融合了多类型缓存加速算法工具,分级管理推理过程中产生的 KV Cache 记忆数据,可扩大推理上下文窗口,实现高吞吐、低时延的推理体验,降低每 Token 推理成本。该技术已率先在中国银联 " 客户之声 "" 营销策划 "" 办公助手 " 三大业务场景中,开展智慧金融 AI 推理加速应用试点,并已取得成果。
华为计划于 2025 年 9 月正式开源 UCM,届时将在魔擎社区首发,后续逐步贡献给业界主流推理引擎社区,并共享给业内所有 Share Everything ( 共享架构 ) 存储厂商和生态伙伴。
每日经济新闻综合自公开信息
每日经济新闻
登录后才可以发布评论哦
打开小程序可以发布评论哦