龙芯中科 4小时前
龙芯自研通用GPU加速计算平台首个软件版本面世,以高效算力系统赋能AI应用创新
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

近日,龙芯中科正式发布支持自研通用 GPU 的龙芯加速计算平台(Loongson Accelerated Computing Platform)首个软件版本,构筑起面向智能应用时代的完整算力软件产品体系。

基于龙芯 2K3000 及 9A1000 内集成的自研 LG200 系列通用 GPU 核心,在完成 OpenGL 及 Vulkan 图形软件栈的同时,针对算力软件环境通用性、易用性、兼容性等方面的需求,龙芯中科统筹规划算力软件发展,以集成的龙芯加速计算平台实现对算力芯片驱动、算力编程环境、AI 模型推理等功能组件的全栈一体支持。本次推出的龙芯加速计算平台包括推理引擎、高性能算子库、专用编译器、运行时环境、调试工具、性能分析套件等核心组件,支撑 OpenCL 3.0 与 CUDA 两类编程模型接口,集成 BLAS/DNN 等功能的算子库,实现对主流 AI 模型的高效推理,支持龙芯全系列算力芯片,一站式完成系统选型、算力调用、模型调优、应用部署等全链条任务。产品可应用于工业视觉、智能安防、智慧零售、车载感知等多样化业务场景,为人工智能领域的应用开发与部署提供便捷的全栈环境支撑。

龙芯加速计算平台可实现稳定、高效的运行时环境,完善支持 OpenCL3.0 与 CUDA 两大并行编程模型。平台运行时库具有完备的资源调度管理能力,具有智能内存管理、任务队列调度、事件同步管理等基础核心功能。底层驱动完成对各类硬件计算资源的统一抽象与集约化管理,拥有优异的并发处理能力,可显著提升硬件资源利用率,高效支撑多进程、多任务并发执行。

龙芯加速计算平台内置高性能算力编译器,支持 OpenCL 3.0 和 CUDA 两种主流编程接口,针对龙芯通用 GPU 指令集架构和特性进行深度优化,为算力编程开发提供统一、高效的编译基础设施。通过在 API 层面对主流编程范式进行兼容,可显著降低开发者学习与使用成本,简化应用开发及迁移适配工作,有效缩短产品开发部署周期。

龙芯加速计算平台集成‌调试与分析工具,具备执行断点设置、寄存器访问、张量单元等关键部件状态检查等主要功能,可快速定位访存越界、计算异常、同步死锁等常见核函数开发问题,大幅提高算力编程的调试开发效率。

算子库是龙芯加速计算平台的重要组件,目前已包括‌基础数学计算(BLAS)、神经网络(DNN)‌等领域的高性能算子库。‌基础线性代数算子方面,对 FP32、INT8 等数据类型的‌矩阵乘法(GEMM)、矩阵向量乘、向量运算等核心算子实现汇编级深度优化。‌神经网络算子方面‌,完整覆盖卷积、池化、归一化、全连接、激活函数等常用算子。针对龙芯通用 GPU 的张量单元和缓存层次结构等微结构特性开展专门优化,算子库对算力硬件的利用率达到业界先进水平。

在硬件和系统支持方面,龙芯加速计算平台覆盖龙芯全系列算力芯片,支持 Linux 多内核版本系统,后续还将与 9A2000、9A3000 等研制及规划中的算力芯片同步演进,实现对算力芯片的代际兼容,与芯片硬件创新协同发展。

为更好地实现对 AI 模型的推理优化支持,龙芯中科研制高性能推理引擎(LacInfer),可充分释放龙芯通用 GPU 的硬件性能潜能,显著提升 AI 模型推理效率。推理引擎通过算子融合、常量折叠、算子消除、布局转换等优化手段,生成高度精简的计算图。在算子融合方面,推理引擎采用多层级融合策略‌,支持逐元素算子融合与复杂的多分支多输入算子融合,支持卷积、偏置与激活算子的深度融合,显著减少数据访存开销,大幅提升推理任务的综合性能。

龙芯加速计算平台完善支持 ONNX Runtime 等深度学习框架。通过将高性能推理引擎 LacInfer 作为 ONNX Runtime 的执行后端,用户在龙芯通用 GPU 平台上可直接部署由 PyTorch 和 TensorFlow 等主流训练框架导出的 ONNX 模型,无需额外转换或重写代码,实现 " 一次训练,多端部署 "。目前在龙芯 9A1000 等芯片上已完成对计算机视觉等主流 AI 模型的深度优化,模型类型涵盖目标检测、图像分割、姿态估计、旋转目标检测等主要领域,在实现高性能推理速度的同时,量化推理精度损失也处于行业领先水平。

上述算力软件已经支持部分早期客户,基于 2K3000 及 9A1000 开展多款具身智能型号设备的智能体研制。

随着加速计算平台的产品发布,龙芯将携手产业链合作伙伴和广大开发者,共建算力和 AI 软件生态,持续夯实底层技术底座,以高效算力赋能千行百业智能化应用创新。

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 龙芯 gpu 编程 芯片
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论