雷锋网 昨天
前Graphcore总裁卢涛加入铭芯启睿,要把LPU做成「高铁」
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

铭芯启睿(MemSilicon)CEO 兼联合创始人 卢涛

雷峰网独家获悉,铭芯启睿(MemSilicon)已完成超 4 亿元 A 轮融资,本轮融资由博原资本领投,博世创投、创领资本、米哈游、中关村科学城公司、兆易创新等跟投,老股东复容投资、国开科创、恒裕资本、锦秋基金、顺禧基金、小米战投、中科创星持续加注。

前 Graphcore 总裁兼大中华区总经理卢涛也已加入铭芯启睿,担任 CEO 兼联合创始人。

在半导体行业深耕二十余年的卢涛,曾担任 Cavium 中国区总经理、曦智科技副总裁,经历覆盖 Arm 服务器 CPU、大 SRAM 架构的 AI 处理器 IPU 及硅光等领域。

随着卢涛加入,铭芯启睿将在继续推进阻变存储器(RRAM)产业化与商业化的同时,启动第一代 LPU 研发,将业务从存储延伸至计算。

黄仁勋此前提到," 速度就是智能 "。卢涛的理解有两个维度:记忆力好、脑瓜子快。对应到 AI,前者是上下文能力,后者是推理延迟和生成速度。

这与铭芯启睿押注的存储、计算两条路线形成呼应,既研究数据怎样存,也研究怎样更快地计算和调用,最终在系统层面实现协同。

卢涛的目标非常明确,要做一款 " 满血模型、高铁价格 " 的 LPU。

卢涛与铭芯启睿的交集始于公司成立的 2024 年。彼时,铭芯就曾邀请他担任 CEO,但他没有加入。两年后,是什么改变了他的选择? 

LPU 热潮下,既知道怎么做,也清楚为什么做

今年 3 月的 GTC 成为卢涛做决定的一个触发点。看到黄仁勋发布产品时,他强烈地怀念起过去与芯片巨头竞争的日子,在 Graphcore 挑战英伟达,在 Cavium 做服务器 CPU 与英特尔竞争,做交换芯片与博通竞争。

从零创业是一个选项。但他算了一笔时间账:组建团队、确定架构、融资交割,即使资本市场火热,也需要六至九个月。他不确信热度能持续多久。

" 速度非常非常重要。" 加入铭芯,能让他更快起步。

2024 年没有加入铭芯,也与双方所处的阶段有关。当时铭芯优先推动存储技术从实验室走向产品,卢涛觉得自己能够贡献的价值有限。而在此次加入之前,铭芯已决定进入计算领域,他能在这里自主推进想做的产品。

更重要的是,铭芯团队源自中国科学院刘明院士团队,拥有二十余年存储技术积累。除 RRAM 外,团队在 SRAM、MRAM、DRAM 等领域也有研究基础,能与他的计算架构和产业化经验结合。

加入后,卢涛迅速组建了一支十几人的 LPU 核心团队,覆盖硬件、编译器和系统软件等核心环节。他尤其看重过去在 Graphcore 与头部客户在实践中摸索出的经验,新架构如何落地,成功与失败分别因为什么。

" 把 AI 芯片做出来很困难,把它卖出更是不简单。" 卢涛深有感触。

他用 know-how(怎么做)与 know-why(为什么做)概括团队的能力:既知道怎样把芯片做出来,也清楚为什么做,以及最终要向用户提供什么价值。在他看来,已有众多 GPU、NPU 公司的今天,新团队需要从尚未解决的问题出发确定架构。

LPU 让高速推理像高铁一样成为主流

铭芯首款 LPU 的产品目标,是面向数万亿参数的完整模型,不依赖量化、投机解码等手段,追求每名用户每秒生成 1000 个 Token 的速度。

速度之外,还有价格。

卢涛用高铁打比方,用户愿意为更好的速度和体验付费,但如果普通车票 200 元,高铁票却要 2000 元,就很难普及。高速推理也一样,可以比普通服务贵,但溢价必须有限。

" 它未来不是利基,而是一个主流。" 卢涛希望让铭芯的 LPU 跑满血模型,实现高速 Token,越级性价比。

要实现这个目标,关键在于存储、计算与互联的联合创新。

卢涛曾参与商业化的 Graphcore IPU 采用大 SRAM 架构。在他看来,SRAM 能提供高带宽、低延迟,但面对数万亿参数模型,容量成为约束。若通过增加芯片来容纳模型,跨芯片互联又会带来成本、功耗和时间开销。

因此,铭芯的 LPU 希望保留 SRAM 的速度优势,同时引入其他介质的容量优势,用更少的芯片承载大模型,控制互联代价。

" 在 SRAM 之外,我们还有新的存储媒介层。" 卢涛介绍了第一代 LPU 的设计思路。这一设计希望从系统层面平衡速度、容量与成本,同时兼顾系统吞吐。

卢涛明确,第一代 LPU 不会采用 RRAM,将使用更成熟的存储介质。RRAM 仍需攻坚容量,未来再争取与计算产品结合。

目前,铭芯正与头部云服务商、大模型公司交流。对于未来两三年,卢涛希望将计算产品交到客户手中,同时推动大容量 RRAM 研发。

铭芯的差异化,在于存储器件、工艺积累与计算架构、软件及产业化经验在同一支团队中结合。卢涛的加入,让这家公司的技术积累有机会从存储延伸至完整的计算系统,也为 " 满血模型、高铁价格 " 提供了持续演进的空间。

更多国产芯片公司的信息欢迎添加作者微信BENSONEIT互通有无。雷峰网 ( 公众号:雷峰网 )

雷峰网原创文章,未经授权禁止转载。详情见转载须知。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

融资 ceo 高铁 ai 芯片
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论