芯东西 3小时前
刚刚,AMD收购一家AI芯片公司!24人打造6nm推理芯片刷屏硅谷
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

这家创企的技术将帮助补充 AMD 全栈 AI 平台。

编译 |  程茜

编辑 |  Panken

芯东西 8 月 7 日消息,今日,AMD宣布达成收购加拿大AI 推理芯片创企 Taalas的协议。

Taalas 的技术将作为补充,完善 AMD 全栈 AI 平台,包括 AMD Helios 机架级解决方案、AMD Instinct GPU、AMD EPYC CPU、AMD ROCm 软件以及 AI 生态系统。未来,AMD 计划将其技术融入加速器路线图规划中,并利用 AMD Instinct GPU 开发出系统级解决方案。

Taalas 成立于 2023 年,其技术路线特立独行:无需软件而是将模型结构、参数与权重深度直接固化于硬件之中。

今年 2 月这家神秘创企才浮出水面,彼时该公司宣布总融资额已超2 亿美元(约合人民币 14 亿元)、推出首款可为任意模型定制芯片的平台HC1,首款产品由24 人团队打造,共花费3000 万美元(约合人民币 2.1 亿元)

HC1 推出后一夜之间便刷屏硅谷,社交平台网友纷纷开启实测,并称其性能惊人、将给英伟达 GPU 带来巨大挑战。但也有不少用户吐槽:Taalas 的产品确实快,但错误率过高。芯东西此前在尝试时提问了 "9.9 和 9.11 比大小 " 以及经典的鸡兔同笼题目,该模型分别在 0.001 秒、0.017 秒内给出了错误答案。

▲社交平台 X 上网友评论(左、中),芯东西实际体验截图(右)

Taalas 创始人兼 CEO 柳比萨 · 巴吉克(Ljubisa Bajic)曾任职 AMD 集成电路设计与架构总监、英伟达高级架构师。他 2016 年创立 AI 芯片公司 Tenstorrent,2023 年将其交接给 Jim Keller(吉姆 · 凯勒)后,又创办了 Taalas。

Taalas 的另外两位创始人是巴吉克的妻子、曾在 AMD 担任系统工程高级经理的莱拉 · 巴吉克(Lejla Bajic)以及曾在 AMD 担任高级设计工程师、在 Tenstorrent 担任工程师的德拉贡 · 伊格(Drago Ignjatovic)。

HC1 采用台积电6nm 制程,芯片面积与英伟达 H100 芯片相当,为 815 平方毫米。HC1 芯片可以将整个 8B 版本的 Llama 3.1 模型集成到单个芯片上。

其官方博客提到,Taalas 还模拟了 DeepSeek R1-671B 的多芯片解决方案,其存储整个 671B 模型采用了大约 30 个定制芯片,模拟结果表明,DeepSeek R1-671B 每用户每秒可生成约12000 个 token;Llama 3.1 单个用户的生成速度可达17000 token/ 秒,速度接近 Cerebras 推理平台的10 倍,英伟达 H200 的73 倍、B200 的48 倍,构建成本为 Cerebras 现有方案的1/20、功耗仅为1/10

根据 Taalas 发布的成本与延迟对比数据,基于 Taalas 的芯片方案,Llama 3.1 8B 的推理查询成本为每百万 token 0.75 美分(约合人民币 0.052 元),DeepSeek R1 的成本为每百万 token 7.6 美分(约合人民币 0.53 元)。

相比之下,Llama 3.1 8B 在 GPU 吞吐量优化方案上的成本为每百万 token 3.79 美分(约合人民币 0.26 元),DeepSeek R1 为 20.2 美分(约合人民币 1.4 元),延迟优化方案中,Llama 3.1 8B 的成本为 28.61 美分(约合人民币 2 元),DeepSeek R1 为 49 美分(约合人民币 3.37 元)。

巴吉克称,Taalas 的极端方案可能很适合某些特定应用,本质是找到追求经济效益和速度而牺牲灵活性的方法。

Taalas 在发布 HC1 时还透露了下一步计划,他们将基于 HC1 为第二款中等规模的推理模型打造芯片,该模型预计于今年春季在实验室完成流片,并很快集成至其推理服务中;随后,该公司将基于第二代芯片平台 HC2 推出新大语言模型,HC2 将提供更高的算力密度与更快的执行速度,计划在今年冬季正式部署。

结语:从外部合作到重金并购

AMD 正在下一盘大棋

Taalas 并不是 AMD 唯一一家支持的互补性加速器厂商,今年 7 月,AMD 还宣布与 Cerebras 建立合作伙伴关系,计划在今年晚些时候将 Cerebras 的 AI 芯片集成到自己的系统中。

此外,AMD 还一直在积极收购相关公司,以补充构建其 Helios 机架式服务器所需的一些组件和技术。2024 年,该公司以 6.65 亿美元(约合人民币 44.87 亿元)收购了 AI 模型开发公司 Silo AI;AMD 还以 49 亿美元(约合人民币 330.61 亿元)收购了机架式产品提供商 ZT Systems。去年,AMD 还收购了几家较小的 AI 公司,例如推理软件开发商 MK1。

来源:AMD、Taalas

9 月 20-21 日,芯东西协办的 2026 全球 AI 芯片峰会将在上海举行,设有开幕式,大模型 AI 芯片、Agent 推理芯片、具身智能芯片 3 场高峰论坛,以及 Token 工厂异构混训混推、超节点、AI 芯片架构创新、新型存储器、大模型 KV Cache5 场技术研讨会。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

amd ai 芯片 浮出水面 加拿大
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论