第一财经 9小时前
AMD收购AI推理芯片公司Taalas,AI芯片巨头走向异构计算
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

海外 AI 芯片巨头不再寻求用 GPU 解决一切问题,而是走向芯片异构。

当地时间 8 月 6 日,AMD(AMD.O)宣布收购推理芯片初创公司 Taalas,计划把 Taalas 技术补充进 AMD 全栈 AI 平台,包括 Helios 机架级解决方案、Instinct GPU、EPYC CPU 等。相关技术将整合进 AMD 的产品路线图。但 AMD 并未公开收购金额。

Taalas 成立于 2023 年,总部位于加拿大多伦多。该公司的芯片为单一 AI 模型定制,采用高速 SRAM(静态随机存取存储器)内存,通过优化推理数据流应对通用架构的计算和内存瓶颈。Taalas 的芯片可运行 Llama3.1,运行特定大模型推理时输出速度可达传统 GPU 芯片的千倍,该公司还在研发更先进的产品。

AMD 人工智能事业部高级副总裁 Vamsi Boppana 表示,AMD 正在构建一个全栈 AI 平台,为客户提供灵活部署计算解决方案的空间,Taalas 的技术与工程团队通过提供差异化的推理性能和效率,强化了 AMD AI 产品组合的竞争力。

这不是 AMD 融合推理芯片的唯一动作。今年以来,AMD 着力推动芯片异构甚至定制。

与 AMD 和英伟达(NVDA.O)适配多种 AI 计算场景的通用 GPU 不同,以 Cerebras Systems 和 Taalas 为代表的定制芯片在灵活性上有所欠缺,不适配所有 AI 计算场景,但针对特定模型可加快推理速度。

7 月,AMD 宣布与另一家 AI 推理芯片公司 Cerebras Systems 合作。Cerebras Systems 的产品采用晶圆级芯片设计,将数十万个计算核心集成在单一处理器上,降低了模型训练与推理过程中的通信延迟,做法与 Taalas 有相似之处,与 Taalas 同属于 ASIC(专用集成电路)芯片。AMD 计划将 Cerebras Systems 的晶圆级芯片与 Helios 机架级解决方案结合在一起,以实现 AI 应用所需的超低延迟。今年 3 月 AMD 宣布与 Meta 的合作,合作内容则包括半定制芯片供应。

宣布与 Cerebras Systems 合作时,AMD CEO 苏姿丰称,AI 推理日益增加的多样性需求需要更灵活的应对方法。此前苏姿丰还表示,AI 基础设施变得更加复杂,有多种工作负载,需要不同类型的计算," 在 AI 基础设施的下一个阶段,没有一块单一的芯片能把所有事情做到最好,这已经是一个异构的世界。"

苏姿丰认为,计算需求中,总会有 ASIC 的一席之地,接下来会有不同芯片被应用,这些芯片针对不同工作负载进行优化,以便最快地优化计算。

英伟达也在整合不同的计算芯片。今年年初,英伟达获得 ASIC 芯片初创企业 Groq 的知识产权非独家授权,并从 Groq 团队中聘请人才加入英伟达。Groq 的产品是 LPU ( 语言处理单元 ) ,采用 SRAM 内存,主打推理性能强、成本低。有市场消息称,英伟达与 Groq 的交易金额达到 200 亿美元。

3 月,Groq 3 LPU 在英伟达 GTC 大会上亮相,英伟达 Rubin 平台的机架中包括为智能体系统低延迟与长上下文需求设计的 Groq 3 LPX 机架。

基于异构芯片的 AI 系统已在逐步推出。Cerebras Systems 在数据中心部署 AMD Helios 系统,联合解决方案今年下半年将通过 Cerebras Cloud 上线。英伟达 Vera Rubin 平台在加速生产,也将于今年下半年出货。

( 本文来自第一财经 )

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

amd ai ai芯片 芯片 gpu
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论