学者 @hsu_steve 评价 Peter Gostev 用 3D 还原的 DeepSeek V4.1 Flash 架构图，称其底层设计 " 任何蒸馏技术都偷不来 "。
CED 架构是什么
该架构采用 20 层因果编码器 + 20 层解码器的 CED 架构。读长文本仅激活约 8B 参数，生成时激活 16B。
显存账本
KV 显存压至约 890 字节 /token，为上一代四分之一。
学者 @hsu_steve 评价 Peter Gostev 用 3D 还原的 DeepSeek V4.1 Flash 架构图，称其底层设计 " 任何蒸馏技术都偷不来 "。
CED 架构是什么
该架构采用 20 层因果编码器 + 20 层解码器的 CED 架构。读长文本仅激活约 8B 参数，生成时激活 16B。
显存账本
KV 显存压至约 890 字节 /token，为上一代四分之一。
登录后才可以发布评论哦
打开小程序可以发布评论哦