文｜晓静

编辑｜徐青阳

10 月 20 日，DeepSeek 开源推理框架 DeepInfer 时，公布了一个十分吸引眼球的数字：单个集群每天可以处理 155 万亿 Token，如果按照 DeepSeek API 的谷时价格计算，平均每 GPU 小时对应 38 美元的收入。

这是根据 Token 处理量和公开 API 价格折算出的理论计费收入，实际情况要复杂得多。但这个数字依然太有吸引力：如果粗暴按照线性外推，按每天 24 小时、全年 365 天计算，一张 GPU 的年化计费产值超过 33 万美元。

过去几年，AI 行业一直在讨论训练一个前沿模型需要多少钱，英伟达的 GPU 有多贵，云厂商又投入了多少资金建设数据中心。但这些昂贵的计算设备买回来之后，究竟能够生产多少可以卖钱的智能？抛开眼花缭乱的 " 金融手段 "，企业真能赚到的，又有多少钱？

DeepSeek 的 38 美元，提供了一个难得的观察窗口。在资本市场再次对 AI 巨额投入的回报提出质疑的时候，产业一线的反馈却很乐观。" 业内 " 和 " 业外 "，产生了巨大的分歧。

一位经营 Token 中转业务的创业者告诉腾讯科技，最近几个月，中小企业的 AI 需求正在 " 全面暴涨 "，他能从客户的实际使用情况中感受到这一变化。今年七八月还只有少数公司在尝试的事情，如今同行已经普遍在做。一些原本有数据安全顾虑的企业也开始私有化部署模型。他也在认真考虑 " 扩产 "。

另外一位 AI 应用领域的创业者态度也十分鲜明：" 英伟达的股票，我还是会继续买。" 他接触的 B 端企业正在加快引入 Agent，从日常运营到客户服务，越来越多业务开始 AI 化。

但他也判断，中美 AI 市场短期内可能经历一个 " 小低谷 "。此前模型突破、生产率提升和 AI 替代工作的消息不断推高市场预期，当资本市场开始要求 AI 在真金白银上交出成绩时，企业应用的实际成果可能还没有跟上，市场热情也会随之回落。

这或许正是当下 AI 产业面临的矛盾：一线需求正在增长，但从应用落地到形成足以支撑巨额算力投入的商业回报，中间还有一段距离。

DeepSeek 的计算提供了另一个值得关注的信号，即使按照谷时价格，高度优化的推理系统仍然能够实现相当可观的单位 GPU 计费产值。

那么，随着推理效率不断提高，如果有足够多的用户持续消耗 Token，AI 是否已经可以成为一门赚钱的生意？答案可能比想象中乐观，但也更复杂。

图片由 AI 生成

一张 GPU，每小时 38 美元

DeepSeek 在 9 月 10 日发布的 V4.1 Flash 中，已经披露了不少推理效率优化的技术细节。

按照官方技术报告，这款模型拥有 5520 亿总参数，采用混合专家（MoE）架构和新的 Causal Encoder – Decoder 设计，处理输入时约激活 80 亿参数，生成输出时约激活 160 亿参数。

模型针对长上下文和 Agent 场景优化了缓存结构。按照论文披露，全局 KV Cache 占用降低到上一代的约四分之一，长期保存的缓存占用减少到约八分之一。每 Token 的全局 KV Cache 约为 890 字节，支持最高 100 万 Token 上下文。

这些优化直接影响长上下文推理的显存占用、数据传输和服务成本。

10 月 20 日开源的 DeepInfer，进一步公开了 DeepSeek 如何将这些技术整合为大规模在线推理服务。

它集成了此前陆续开源的 FlashMLA、DeepGEMM、DeepEP、TileKernels 等组件，同时引入专家并行、推测解码、异步调度等机制。

图：DeepSeek 在线推理系统示意图

DeepSeek 在官方部署问答中重点介绍了三项工程原则：适配不同厂商的加速硬件，将 Prefill 与 Decode 分开部署，以及尽可能长期保留 KV Cache，减少重复计算。

在生产环境中，Prefill 可以部署在普通 8 卡服务器上，而 Decode 采用 64 至 128 卡超节点，通过大规模专家并行提高吞吐量。DeepSeek 还提出将 KV Cache 保留 72 小时以上，以适应 Agent 反复调用相同上下文的需求。

这些优化的核心目标，是在满足延迟要求的前提下，让同样数量的 GPU 服务更多请求。

不过，这次开源并不意味着 DeepSeek 已经公开完整生产环境中的所有组件。

官方 README 文档指出，KV Cache 系统、视觉编码与 Prefill/Decode 分离服务编排、跨数据并行副本的负载均衡等，仍需要外部补齐。部分组件与 DeepSeek 内部基础设施深度耦合，因此尚未完整开源。

DeepInfer 目前也主要面向 DeepSeek-V4.1 Flash。其他模型如果在 MoE 专家组织、注意力结构、数值精度或硬件配置上存在较大差异，很难直接照搬。

因此，38 美元并不代表任何企业下载 DeepInfer、部署一批 GPU，就能获得同样的收入表现。DeepSeek 也没有完整公开计算这项指标所需的集群硬件构成、成本账单、付费流量比例及收入确认方式。

但它至少说明，在特定模型与硬件条件下，推理工程优化能够显著提高计算设备的潜在计费产值。

低价出售 Token，与一张 GPU 产生较高的计费收入，并不矛盾。

关键在于，一小时内究竟能够处理多少有效 Token，以及有多少 Token 真正可以向客户收费。

如果推理可以赚钱，为什么模型公司还在亏损？

如果推理效率已经可以做到如此程度，为什么一些大模型公司仍然需要不断融资，甚至持续亏损？

一个重要原因是，训练前沿模型和出售推理服务，本来就是两笔不同的账。

2026 年斯坦福大学《AI Index》引用研究机构 Epoch AI 的数据，估算了 OpenAI 和 Anthropic 在模型研发与推理服务方面的计算支出。

2025 年，OpenAI 计算支出约 163 亿美元，其中研发相关计算支出 83 亿美元，推理支出 80 亿美元，两者几乎各占一半。

2024 年，OpenAI 的相应支出分别为 40 亿美元和 18 亿美元。也就是说，一年之间，推理计算支出增长了约 3.4 倍，而研发计算支出增长约一倍。

Anthropic 在 2025 年的计算支出估计为 68 亿美元，其中研发相关支出 41 亿美元，推理支出 27 亿美元。研发仍然占据较大比例。

这些数字说明，前沿模型公司的算力投入结构正在变化。随着商业用户增加，推理已成为越来越重要的成本来源，但研发开支并没有因为推理业务扩张而消失。

一家追逐 SOTA 的模型公司，需要同时承担持续训练和大规模推理服务的成本。前者包括预训练、后训练、强化学习、数据处理、模型评测及大量实验，后者则需要维持在线服务的算力、容量和稳定性。

Epoch AI 特别指出，研发计算支出并不全部用于最后一次正式训练。大量资源实际上消耗在实验、研究和模型迭代过程中。因此，某个模型公开的单次训练成本，不能简单视为一家前沿模型公司的全部研发成本。

图源：Stanford HAI / Epoch AI，2026 年

商业化带来的另一层压力，是用户越多，推理成本也可能越高。

《The Information》今年 2 月报道，OpenAI 在 2025 年的毛利率约为 33%，低于 2024 年的 40%，也低于此前 46% 的预测。Anthropic 对 2025 年毛利率的预期约为 40%，虽然较 2024 年的负毛利状态改善明显，仍比其早先目标低 10 个百分点。

报道指出，两家公司毛利率低于预期的重要原因之一，是实际推理成本高于原先估计。

这与 DeepSeek 的 38 美元看起来形成了矛盾：一边是持续改善的推理效率，另一边却是被推理成本侵蚀的毛利率。

实际上，它们反映的是同一门生意的两个方面。

单位 GPU 能够生产多少 Token，是供给效率；公司需要投入多少 GPU，才能满足不同客户的延迟、上下文长度、稳定性和峰值需求，则决定实际经营成本。

即使单位 Token 成本下降，重度用户增加、任务执行时间延长、模型调用次数上升，也可能使总推理支出迅速增长。尤其在固定月费的产品中，客户支付的价格未必随着 Token 消耗同步增加。想想每天挖空心思发 " 重置卡 " 的 Tibo。

图：OpenAI 产品与平台负责人 Tibo（Thibault Sottiaux）于 10 月 11 日在 X 平台连续发布有关 Reset 的动态，其中 "Day 6 / Reset" 获得约 290 万次浏览。

一家模型公司的推理服务可以拥有正毛利，整个公司却仍然因为持续研发、基础设施和经营投入而亏损。

反过来，如果不承担前沿模型训练，专门经营推理服务，生意的成本结构就完全不同。

不训练模型，只卖 Token 能不能赚钱？

AI 产业链中已经出现一类与前沿模型实验室不同的公司。

它们不以训练最强的基础模型为核心业务，而是部署 DeepSeek、Qwen、Llama 等开放权重模型，通过多芯片集群、推理框架、模型优化和调度系统，向开发者与企业销售 API 调用、专属推理实例或私有化部署服务。

对于这些公司来说，模型本身未必需要从头研发，成本主要来自 GPU 采购或租赁、机房与电力、网络和存储、推理系统研发、模型适配，以及销售、运维和客户支持。

其中最关键的三个变量，是单位 GPU 产值、实际付费利用率和综合运营成本。

假设一家推理服务商每 GPU 小时的完全负担成本为 10 美元，而它能够以 DeepSeek 披露的 38 美元作为满负载计费产值的参考，那么理论上只要实现约 26.3% 的有效计费产出，便可以覆盖这 10 美元成本。

如果有效计费产出达到 50%，收入相当于每小时 19 美元，扣除 10 美元后还剩 9 美元。

当然，这只是用于说明商业敏感性的假设。实际系统的吞吐量、并发和延迟具有复杂关系，低负载下的收入不一定与满负载表现呈线性变化。10 美元也不是 DeepSeek 披露的真实成本，更不能将计算结果当作其实际毛利率。

但这种测算说明，推理系统效率足够高时，商业回报可能具有较大的空间。问题是，GPU 本身并不便宜，购买或者租赁 GPU，同样不意味着立即拥有稳定收入。

CoreWeave 提供了一个可以对照的真实案例。

2026 年第二季度，CoreWeave 收入 25.75 亿美元，同比增长约 112%，调整后 EBITDA 达到 15.10 亿美元，利润率为 59%。

但在美国通用会计准则下，公司当季仍净亏损 6.26 亿美元。问题出在算力生意高昂的资产和资金成本上。CoreWeave 需要投入大量资金采购 GPU 及配套设备，相关资产随着使用逐年折旧；同时，公司依靠债务融资支持扩张，还要承担高额利息。2026 年第二季度，其折旧及摊销费用达到 13.93 亿美元，净利息支出高达 6.4 亿美元。

折旧反映的是已经购入的算力设备在使用期间逐步计入的成本，利息是为这些投资融资所付出的代价。即使 GPU 租赁带来了可观收入，这两项负担仍可能大幅压缩利润。

CoreWeave 的财报也说明，算力利用率高、收入增长快，并不意味着经营算力就一定赚钱。

更复杂的是，推理算力并不是一个完全同质化的市场。

DeepSeek 能够通过深度优化获得较高单位 GPU 产值，不意味着普通推理服务商可以用相同的硬件、相同的价格获得同样表现。

因此，推理服务可能是一门具有可观毛利空间的生意，但它并不会自动成为高利润生意。工程能力影响成本下限，客户需求和定价权决定收入上限，而资本成本影响最终能留下多少利润。

此外，推理市场还面临持续降价的压力。

DeepSeek 降低单位 Token 成本之后，也在通过更低的 API 价格将一部分效率收益传递给用户。其他公司一旦采用更高效的算法和系统，也可能参与价格竞争。

推理效率提升创造的收益，最终未必全部留给卖 Token 的公司。

AI 利润版图，谁能赚钱？

从英伟达、台积电、SK 海力士，到数据中心和云服务商，AI 基础设施投资已经为部分上游企业带来了可观的收入和利润。

但对于经营推理服务的企业来说，设备买回来之后，仍然需要不断寻找客户和任务，才能持续创造收入。

目前，Coding 是商业化最清晰的 AI 应用市场之一，但即使在这个付费意愿较强的领域，盈利也并不容易。

《The Information》披露，Cursor 在截至 2026 年 1 月的季度中，毛利率一度为 -23%；如果将免费用户的推理费用全部计入销售成本，毛利率约为 -31%。虽然此后毛利率已经转正，但高昂的模型调用成本，仍是 AI 应用需要面对的问题。

消费应用的情况更加分化。10 月 12 日，曾经的明星 AI 陪伴公司 Character.AI 申请破产保护。根据破产文件及公开报道，公司当时仍拥有约 1200 万月活用户，2026 年 8 月收入达到 530 万美元，但每月经营亏损仍有 800 万至 900 万美元。

仅 2026 年前八个月，Character.AI 就花费了 5610 万美元购买算力，占运营费用约 45%。即使转向更便宜的 GPU 和开放权重模型，并削减人员开支，也未能实现盈利。法律诉讼和监管压力同样加剧了公司的困境。

但是，AI 原生应用并非无法盈利。Midjourney 创始人 David Holz 在今年 3 月接受《The Information》采访时表示，公司 2023 年收入已显著超过 2 亿美元，此后继续增长，并且保持盈利。

但它也不是所有 AI 应用的普遍样本。图像生成拥有相对明确的使用场景和付费价值，而全天候运行的个人 Agent，可能需要持续调用模型、使用工具和重新规划任务，成本结构更加复杂。

从整体市场看，需求实际上正在快速增长。

Menlo Ventures 在 2026 年 9 月发布的《State of Consumer AI》报告估计，全球消费者 AI 支出已达到 400 亿美元，是 2025 年 120 亿美元的三倍多。

但值得注意的是，美国成年人 AI 使用率只从 2025 年的 61% 上升到 64%。消费者 AI 支出的高速增长，主要来自已有用户使用得更深入，付费更多。新增用户有限。

图：Menlo Ventures 消费 AI 支出图

Menlo Ventures 合伙人 Amy Wu Martin 指出，今年令人意外的变化，是消费者 AI 市场在没有迎来大量新用户的情况下实现了三倍增长。推动增长的，是重度用户将 AI 带入更多生活场景，并开始允许 AI 代表自己采取行动。

现在，更重要的是一个用户每天有多少任务交给 AI，以及每项任务能够创造多少实际价值。这也是 Personal Agent（PA）重新成为大厂和创业公司共同关注方向的原因之一。

最近推出的 Duet、Dots、Muse、Grokbot 以及一批独立创业公司的产品，虽然在入口、记忆、权限体系和执行方式上存在不同，但都在尝试扩大 AI 能够承接的个人任务范围。

如果 Agent 能够持续处理邮件、安排工作、操作软件、完成采购、协调不同服务，AI 调用便可能从用户主动发起的短时会话，转向围绕实际任务展开的长流程执行。

Agent 之间的协作，以及越来越多由机器直接发起的工具调用和服务请求，也可能进一步扩大推理消费市场。

不过，更多 Token 消耗本身并不代表商业成功。

一家 PA 公司如果每月向用户收取 20 美元，却需要花费 30 美元购买模型调用和其他服务，那么它可能帮助上游模型商扩大收入，自己却仍然无法盈利。

同样，模型越来越高效，也可能让过去需要大量 Token 的任务变得便宜。即使 Agent 数量大幅增长，市场总收入也不一定以相同比例增长。

模型公司希望扩大推理消费市场，应用公司希望以更低的推理成本完成任务，用户关心实际完成的工作值多少钱。

DeepSeek 的 38 美元，展示了在特定条件下，高效率生产 Token 所具有的潜在收入能力。

过去几年，资本市场为 AI 投入了巨额资金，芯片、存储和算力基础设施率先从中受益。随着推理系统继续进步，模型公司和应用公司一直在面对另外一道更复杂的商业命题：如果越来越多企业都能以更低的成本生产智能，谁能找到足够多愿意购买智能的客户？

还有更难的问题：如果 AI 是一个新的时代，token 承载的 " 智能 "，要创造什么增量？AI Native 的核心逻辑，还在一片混沌中等待。