IT之家 昨天
阿里平头哥开源真武AI芯片T-Head SAIL软件栈
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

IT 之家 7 月 18 日消息,阿里平头哥半导体官方宣布,平头哥自研 AI 软件栈 T-Head SAIL 正式开源。T-Head SAIL 是平头哥为真武系列 AI 芯片打造的软件栈,拥有自主知识产权、全面兼容主流 AI 生态。

官方表示,截至今年 4 月,真武 AI 芯片已累计出货 56 万片,服务 20 多个行业 400 多家客户。真武 AI 芯片及 T-Head SAIL 软件栈已在阿里云及多家头部客户的真实生产环境中历经深度打磨,扛过大规模流量、复杂场景以及严苛 SLA 的多重考验。

据介绍,从底层驱动到上层工具,T-Head SAIL 软件栈由五层完整的技术栈组成(Driver 与 Runtime 层、编程语言层、编译器层、高性能库层、开发者工具层)。T-Head SAIL 兼容主流 AI 生态,主流模型即开即用,算子库完整对标,主流编程模型高度兼容。

T-Head SAIL 已全面适配 PyTorch、TensorFlow、vLLM、SGLang 等 260 余个主流训练与推理框架,开发者获取源码后即可直接编译运行,无需额外适配。目前主流 AI 推理框架,T-Head SAIL 平均适配时间 < 7 天,开发者无需额外适配和调优,即可使用前沿最新的算子、特性与优化手段。

平头哥开发者社区网站现已同步上线,包含 T-Head SAIL 全栈技术文档,提供 SDK 软件包、内核驱动、性能分析和调试工具下载。IT 之家附链接:

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

平头哥 ai芯片 开源 阿里 编程
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论