最近刷到李想在罗永浩《十字路口》里的一段访谈 ( 嗯，视频号更新了推荐机制，可以刷到更老的视频了 ) ，挺有意思。

他提到英伟达早年也曾濒临绝境，靠着孤注一掷的深耕才逆风翻盘。如今他甘愿放下数十亿稳定收益，all in AI 赛道的下一个风口推理芯片，更是直白表态未来属于推理时代，推理芯片将构筑行业最终壁垒。

无独有偶，前段时间周鸿祎也把话题聚焦到了推理芯片上。他直言，比起挤破头卷训练算力，能让 AI 真正落地赚钱的推理算力，才是未来十年的主战场。OpenAI 联手 AMD 造推理芯片，也印证了这一趋势。周鸿祎认为，推理算力的需求会呈指数级增长，而且专用推理芯片能耗低、效率高，技术门槛比训练芯片更低，对中国来说，这正是实现差异化突围的重要机会。

在前不久的一场活动上，AI 教父黄仁勋也判断，AI 产业已全面转向推理时代，推理算力需求 2025 年占比已超 65%，2028 年推理芯片市场规模将达训练芯片的 3 倍。

大家发现了没有，今年以来，这些论述都快成为行业共识了。

越来越多有识之士意识到，训练芯片我们卷不过国外领先企业，所以对中国企业来说，推理赛道可能是我们弯道超车的最佳切入点，现在立刻马上可以突围。

当然，训练赛道当然也是我们必须攻克的核心阵地，只是慢慢来没有那么着急。

很多人把训练和推理混为一谈，觉得能做训练芯片的企业，推理一定也强，或者觉得两者是一回事，只是不同阶段的活儿。其实根本不是。训练和推理，是 AI 芯片行业两条完全不同的赛道，玩法不一样，门槛不一样，机会也不一样。

李想和周鸿祎之所以都看好推理芯片，核心就是他们看清了两者的本质区别。简单说训练是教 AI 学本事，推理是让 AI 用本事干活。这就像老师教学生和学生考试，虽然都和知识有关，但要求完全不同。

训练芯片是 AI 的老师，负责把海量数据喂给模型，反复调整参数，让模型学会识别图片理解语言生成内容。这个过程需要极大的算力，就像让一个学生做几百万道题来掌握一个知识点。

训练芯片追求的是绝对性能，精度要高，算力要足，能处理海量数据，还得能长时间稳定工作。它就像航空母舰，威力巨大但造价高昂，每次出动都得耗费大量资源。

英伟达 H100、华为昇腾 910B 都是这类航空母舰，单卡功耗能到 400W，配几十 GB 甚至上百 GB 的高速显存，专门用来攻克大模型训练这样的硬骨头。

而推理芯片是 AI 的打工人，用训练好的模型处理实际任务。它不需要调整模型参数，只要把输入数据快速准确地转换成输出结果就行。推理芯片追求的是效率，单位能耗算力要高，延迟要低，成本要可控。它就像护卫舰，灵活高效性价比高，适合处理日常高频任务。

像我们熟悉的阿里平头哥 800、百度昆仑 K100、寒武纪思元 370，以及车载的地平线征程 5、小鹏图灵、蔚来神玑、比亚迪璇玑 A3 等，都是推理芯片，功耗从几瓦到几十瓦不等，能快速处理基于场景需求的各种活儿。

生活里的例子一抓一大把。你用手机拍照，AI 自动美颜虚化背景，这是手机 NPU 在做推理 ; 你刷短视频，系统给你推荐内容，这是云端推理芯片在工作 ; 你用语音助手查天气，这是端侧推理芯片在响应。而这些功能背后的模型，都是用训练芯片在数据中心里花了几天甚至几周时间训练出来的。

再比如自动驾驶汽车，它在路上实时识别行人车辆交通标志，是车载推理芯片在工作。同样，它的算法模型，是用大规模训练集群反复训练优化出来的。还有最近流行的端侧大模型，手机上就能跑 AI 对话，这也是推理芯片的功劳，把训练好的模型压缩后在手机上高效运行。

经过对比，可以看得出来，两者的核心差异体现在多个方面。功耗上训练芯片是几百瓦的电老虎，推理芯片从毫瓦级到几十瓦不等，手机里的 NPU 甚至只有零点几瓦。算力上训练芯片看 TFLOPS，推理芯片看 TOPS，前者追求高精度计算，后者更看重整数运算效率。用途上训练芯片集中在数据中心，推理芯片遍布云端边缘和终端。

中国芯片的黄金机会

为什么说推理赛道是中国芯片行业的新机会 ? 李想押注推理，周鸿祎也力挺推理，正是看中了这里的市场空间和错位竞争优势。这里市场更大门槛更合适生态更容易构建，正好契合我们的产业优势。

首先看市场规模。有数据显示推理市场占 AI 算力总需求的 70% 以上，而且还在快速增长。训练是一次性的大投入，一个大模型训练几次就完成了 ; 推理是持续性的消耗，一个模型每天要响应上亿次请求。

就像拍电影和放映电影，拍电影只需要一次大投入，放映电影却是持续不断的生意。随着 AI 应用普及，推理需求会像潮水一样涌来，这给了国产芯片足够的成长空间。

其次看技术门槛。训练芯片要解决的是极致性能和大规模集群协同问题，这需要长期的技术积累和生态构建。英伟达 CUDA 生态用了十几年才形成，不是一朝一夕能撼动的。而推理芯片更看重场景适配和软硬件协同优化，这正是中国企业的强项。

我们有庞大的应用市场，能快速反馈需求迭代产品。比如华为昇腾 310 针对安防监控优化，寒武纪思元芯片适配互联网场景，这些都是贴近市场的成功案例。

再看成本优势。推理芯片对性价比要求更高，客户更愿意接受国产替代。英伟达 A10G 推理卡价格不菲，而国产芯片能把成本控制在其一半甚至更低，同时保持 80% 以上的性能。

字节跳动 2026 年从华为采购 400 亿芯片订单，AI 资本开支超过 2000 亿，其中推理开支超过训练开支。这种商业选择不是靠政策驱动，而是市场的自然选择。

还有生态构建的机会。推理芯片更依赖软件优化和场景适配，这为国产软件厂商提供了舞台。华为 CANN 架构、寒武纪 Neuware 软件栈都在快速迭代，已经能兼容主流 AI 框架。更重要的是推理芯片的碎片化需求，不同场景需要不同的优化方案，这给了中小企业生存空间。比如专注自动驾驶的地平线，都在各自领域做出了特色产品。

政策和资本也在加码。国家大基金三期明确将 AI 芯片作为重点投向，创业投资引导基金撬动万亿社会资本聚焦集成电路领域。工信部等八部门出台的人工智能 + 制造专项行动，对端侧推理芯片有明确支持。这些政策不是简单的补贴，而是引导资源流向真正有技术有市场的企业，帮助他们构建完整的产业链。

前文我们提到过蔚小理的芯片，也无一例外，都是推理芯片。

对中国企业来说推理赛道的机会还在于应用落地。我们有全球最大的互联网市场最多的智能手机用户最丰富的工业场景，这些都是推理芯片的用武之地。从短视频推荐到智能驾驶，从工业质检到智慧医疗，每个场景都需要定制化的推理解决方案。国产芯片企业可以和应用厂商深度合作，共同定义产品优化性能，形成良性循环。

只做推理不做训练不行，只做训练不做推理也不行。真正的竞争力来自训练与推理的协同，构建完整的算力生态。

我们今天说了半天推理芯片的特征，并不是说训练芯片不重要，恰恰相反，训练是 AI 的源头，没有强大的训练芯片就没有先进的 AI 模型。

英伟达之所以能垄断高端 AI 市场，就是因为它在训练芯片上的绝对优势。

华为昇腾 910B 打破垄断的意义就在这里，它让我们有了自主训练大模型的能力，不用再看别人脸色。昇腾 910B FP16 算力达到 320-376 TFLOPS，训练效率能达到 A100 的 80%，部分场景甚至超过 A100，成本却只有其 1/3。这种突破不是单点技术的胜利，而是整个产业链的进步。

关于这个论述，我们之前在《走访中国电信京津冀智算中心：国产算力崛起，拒绝国外芯片 " 卡脖子 "》一文中，有过阐述。

芯片不能单打独斗，一个完整的 AI 算力生态需要训练芯片负责创新突破，推理芯片负责规模化应用，两者相互配合。就像航空母舰需要护卫舰护航，训练芯片也需要推理芯片把它的成果转化为实际价值。英伟达的成功不仅在于 H100 的强大，还在于它有从训练到推理的全系列产品，能提供端到端的解决方案。国产芯片要想真正崛起，也必须走这条路。

目前，推理和训练的关系，既分化又融合。

这似乎很矛盾，该怎么理解呢 ?

分化的趋势在于，训练芯片会越来越专注于极致性能，采用更先进的封装技术比如 3D 堆叠，集成更多的计算单元和高速内存。英伟达下一代 Rubin 芯片将采用台积电 N3P 工艺和 SoIC 三维堆叠封装，算力会比 Blackwell 提升 3-5 倍。国产芯片如昇腾 910C 也在规划中，预计 2026 年下半年量产，性能目标是追平 H100。

而融合的趋势也在显现。随着技术进步，训练和推理的边界会越来越模糊。一些高端推理芯片开始支持部分训练功能，而训练芯片也在优化推理性能。比如英伟达 H200 既可以用于训练也能高效处理推理任务，华为昇腾 910B 也能胜任高吞吐推理。这种融合不是替代，而是互补，让芯片的适用场景更广泛。

对中国企业来说这两种趋势都是机会，分化让我们可以专注某个细分领域做精做透，融合则让我们有机会打造差异化产品。不管是做训练芯片还是推理芯片，关键是找到自己的优势领域，构建核心竞争力。比如专注端侧推理的企业可以深耕手机 IoT 等消费电子市场，做训练芯片的企业则可以聚焦政务金融能源等关键行业，做一些更基础的工作。

还要注意一个重要趋势，那就是软硬件协同越来越重要。芯片性能的提升不再只靠工艺进步，更靠软件优化以及生态构建。华为最近提出的韬定律火爆全球，就是这个道理。

写在最后：总之，训练和推理不是谁比谁更重要的问题，而是缺一不可的关系。二者基于我国的国情，有先后缓急的战略安排，最终实现既要又要还要 -- 训练强，推理也强，生态更强，完成国产科技自主可控体系完整闭环。