快科技 11 月 18 日消息,AMD 这两年也大举布局 AI 产业投资,8 月份宣布收购加拿大的 GPU 初创公司 Taalas,现在这笔价值 29 亿美元的交易终于完成了。
29 亿美元大约是 194 亿元人民币,对初创企业来说价值很高了,但其中的 14 亿美元是有条件的,满足约定要求之后才能拿到。
全球 AI 芯片初创公司多如牛毛,Taalas 这家公司的价值不在于他们搞了什么高性能的 AI 芯片,而是走了一条不同的 AI GPU 芯片路线,生产芯片的时候就把 AI 大模型写到芯片之中。

大家都知道当前的 AI 大模型一个瓶颈就是内存带宽问题,为此 AMD、NVIDIA、Intel 等公司的 AI GPU 都上了 HBM 内存,但 HBM 的成本、发热等问题也愈发严重,在当前内存缺货涨价的背景下更是让厂商发愁。
Taalas 今年 2 月份首发了自研的 HC1 芯片,台积电 6nm 工艺,面积 815mm2,530 亿晶体管规模,功耗 250W,关键是它直接将 Meta 的 Llama 3.1 8B 模型固化在芯片中。
集成到 AI 芯片内部之后就不需要频繁读取内存,性能直接提升几个量级,他们提供的对比测试显示,在输入和输出各 1000 Token 的条件下,HC1 芯片单用户生成速度达到每秒约 1.7 万 Token/s。

作为对比,另一家更早出名的 Cerebras 公司的速度是 1981Token/s,NVIDIA 的 Blackwel 只有 353Token/s,性能比常规的 GPU 算力芯片领先近 50 倍,比直接竞争对手领先 9 倍。
不过这种对比也是剑走偏锋,属于特定情况下的对比,HC1 芯片直接写死了大模型,不能随便加载别的大模型,换模型就要重新生产芯片,这也是成本,而 NVIDIA 的 GPU 芯片可以加载不同的大模型,部署灵活,训练及推理都能用,Taalas 的芯片更适合长期推理服务。
AMD 收购 Taalas 之后,可以把他们的技术用于改进自家的 AI 显卡,现在 Taalas 能部署的大模型比较小,随着 MI400、MI500 系列的芯片规模提升,有可能把主流大模型集成到芯片中的,到时候推理速度和成本会有明显改善。


登录后才可以发布评论哦
打开小程序可以发布评论哦