手机中国 昨天
华为正式开源openPangu-2.0-Pro模型 总参数量5050亿
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

【CNMO 科技消息】7 月 31 日,华为宣布正式开源 openPangu-2.0-Pro 模型及技术报告。

华为

据悉,openPangu 是华为推出的开源 AI 模型品牌,openPangu-2.0-Pro 模型总参数量达 5050 亿,激活参数为 180 亿。其旨在通过昇腾原生训练与推理技术,为业界提供最佳实践参考,助力充分发挥昇腾平台潜力,并进一步打造 Agent 时代强大的智能底座,加速人工智能领域的商业创新与生态繁荣。

华为 openPangu-2.0 模型

目前,openPangu-2.0-Pro 模型相关组件已陆续上线开源平台。华为正邀请全球开发者、企业伙伴及研究人员下载使用,也可访问华为云 MaaS 模型即服务平台在线体验,华为称:欢迎广大用户反馈使用意见,助力开源生态持续进步。

CNMO 科技了解到,openPangu-2.0 模型提供 Pro 和 Flash 两个版本,均采用 MoE 混合专家架构。其中,Pro 版总参数量 5050 亿,激活参数量 180 亿。Flash 版总参数量 920 亿,激活参数量 60 亿,主要面向轻量化部署场景。两个版本统一支持 512K 超长上下文窗口,能够一次性处理数十万字内容,且均采用业界首个 DSA+SWA 独立分层混合架构,实现超稀疏注意力机制。

此前,openPangu-2.0-Flash 模型已于 6 月 30 日开源。

版权所有,未经许可不得转载

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

华为 开源 flash 华为云 ai
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论