快科技 8 月 7 日消息,AMD 正式宣布收购 AI 芯片初创公司 Taalas,进一步强化其在 AI 推理领域的战略布局。
Taalas 成立于 2023 年,总部位于加拿大多伦多,其核心技术路线与主流 GPU、Groq LPU 及 Cerebras 晶圆级加速器等数据流架构存在本质区别。
该公司并非依赖传统的高带宽内存(HBM)存储模型权重,而是将权重直接蚀刻进硅片之中,形成模型专用集成电路。
芯片主要由两个功能区域构成:用于存储模型权重的掩膜 ROM 召回结构,以及用于存放 KV 缓存和微调适配器的 SRAM 召回结构。这一方案有望将推理性能提升一个数量级甚至更多。
今年 2 月,Taalas 发布了首款测试芯片 HC1,采用台积电 6 纳米工艺制造。初步基准测试显示,该芯片运行 Meta Llama 3.1 8B 模型时,速度达每秒 16,960 个 token ——这一成绩在当时约为英伟达 GPU 的 48 倍、Cerebras 加速器的 8.5 倍。
尽管 Llama 3.1 以当前标准已非最新模型,但该光罩尺寸芯片的主要目的在于验证技术概念的可性行。
Taalas 计划于今年夏季推出第二代 HC2 芯片,目标将单芯片支持的参数量提升至 200 亿。虽然这一数值本身并不算庞大,但通过类似 GPU 的流水线并行方式,权重可分布在多颗加速器上协同运行。
以单芯片 200 亿参数计算,仅需 50 颗加速器即可支撑万亿参数级别的大模型,而 AMD 拥有机架级计算平台与内部系统设计团队,足以承接这一需求。
作为对比,英伟达近期发布的 LPX 系统在运行同等规模模型时,需数十颗 GPU 与至少 2000 颗 Groq LPU 配合,Taalas 方案在空间占用与功耗效率方面具备显著优势。
据知情人士透露,AMD 计划将 Taalas 技术芯片与 Instinct 系列的 Helios 机架配对使用,构建分离式架构:计算密集型的提示词处理由 GPU 负责,token 生成任务则卸载至 Taalas 加速器。
另一种部署模式为,客户先在 Instinct 加速器上部署和验证模型,待效果确认后再迁移至 Taalas 加速器,形成类似 "tick-tock" 的迭代节奏。
此前,AMD 在 AI 领域持续加码并购:2024 年以 6.65 亿美元收购 AI 模型开发商 Silo AI,随后以 49 亿美元收购服务器厂商 ZT Systems,为 Helios 机柜产品线奠定基础;此外,公司还收购了包括推理软件开发商 MK1 在内的多家 AI 初创企业,加速完善其 AI 全栈生态。



登录后才可以发布评论哦
打开小程序可以发布评论哦