IT之家 10小时前
美团万亿参数大模型 LongCat-2.0 开源,同步开放国产卡推理代码
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

IT 之家消息,今天,美团将万亿参数大模型 LongCat-2.0 正式开源。

据介绍,LongCat-2.0 总参数 1.6T,平均激活约 48B,为真实的 Agentic Coding 任务而生,架构上创新性引入 LongCat 稀疏注意力和 N-gram Embedding,提升长上下文处理效率与 token 级表示能力的同时,结合动态激活进一步强化了代码理解、生成以及执行的表现。

官方称,作为业界首个在五万卡国产算力集群上完成推理的万亿参数模型,LongCat-2.0 已全面开源。针对显存与带宽受限的国产算力芯片,在模型架构、芯片适配到部署策略上进行了深度协同优化,让万亿参数模型在存量卡上同样跑得稳、跑得快。

IT 之家注意到,本次开源同步提供 BF16、FP8 以及 INT8 等多精度版本,全面覆盖不同算力平台的部署需求。同时,将针对国产算力极致优化的推理成果同步开源。这意味着,即使手上没有最新算力,也能基于现有硬件将 LongCat-2.0 稳定跑起来。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

开源 美团 芯片 it之家
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论