华为半导体首席科学家廖恒近日罕见公开称赞 DeepSeek 创始人梁文锋，核心原因在于梁文锋在行业普遍盲从 "Scaling Law" 时，主动选择了难度更高的稀疏激活架构，这一决策被廖恒视为顶层软硬件协同的战略创新。

一、廖恒称赞的核心：稀疏激活架构的率先选择

关键决策：在多数从业者盲目堆叠参数与算力之际，梁文锋带领的 DeepSeek 团队主动转向稀疏激活架构，该技术收敛更复杂、实现难度更高。

战略眼光：廖恒认为这一选择属于 " 顶层软硬件协同战略创新 "，即提前预判了单纯增大模型规模会遇到的计算与带宽瓶颈，而非被动跟随主流路线。

二、行业背景：普遍盲从 "Scaling Law" 的现状

主流误区：当时 AI 行业盛行 " 越大越好 " 的 Scaling Law，大量资源投入于堆叠参数和计算集群，对架构层面的根本性突破关注不足。

稀缺价值：梁文锋的路径恰恰挑战了这一惯性思维，以更优的计算效率而非单纯规模驱动模型进步，廖恒盛赞这种 " 提前预判行业瓶颈、主动破局 " 的先行者精神。

三、更深层的技术洞察：物理天花板与内存瓶颈

对比英伟达路线：廖恒在访谈中同步指出，英伟达不断做大芯片、提高密度的路线存在物理天花板，最多延续两至三代；芯片计算面积扩张快于数据通道拓宽，供电与散热压力剧增。

内存成为真贵：他特别强调，AI 服务器最昂贵的部分并非逻辑计算芯片，而是 HBM 高速内存；模型推理阶段，每生成一个 Token 都需要持续从内存读取数据，数据传输速度往往比计算速度更制约性能。梁文锋的稀疏架构正是从系统工程层面缓解了这一瓶颈。

精选参考来源 查看全部

本文由 AI 生成