对初创企业而言，衡量 AI 进展的核心指标或许并非更大的模型参数、更高的基准测试分数或十亿美元级的训练支出，而是一个更为隐秘却关键的数据：具备实用能力的模型推理成本正在崩塌。

据斯坦福大学发布的《2025 年 AI 指数报告》，结合 Epoch AI 和 Artificial Analysis 的数据估算，在 MMLU（多任务语言理解基准）上达到 GPT-3.5 性能水平的人工智能模型，其查询成本已从 2022 年 11 月的每百万 Token 20 美元，骤降至 2024 年 10 月的每百万 Token 0.07 美元。这意味着在约 18 个月内，成本下降了超过 280 倍。

" 每百万 Token" 虽具技术色彩，但其商业逻辑直观清晰：运行有用语言模型的原始成本，已从产品团队需精打细算的重大支出，转变为普通软件使用中几乎可忽略的基础设施成本。

值得注意的是，这一对比并非单一模型及其迭代版本的标价比较，而是基于固定能力阈值的成本分析。该阈值设定为在 MMLU 得分相当于 GPT-3.5 的水平。0.07 美元的低廉报价源自 Gemini-1.5-Flash-8B 等更小、更高效的模型，它们以更低的算力复现了旧有高性能模型的能力。

智能成本下降的奇特经济学

传统软件要素如云存储、带宽和芯片密度的价格通常随摩尔定律缓慢下降，以年或十年为周期演进。然而，AI 推理正遵循一种更为激进的节奏。报告指出，根据不同任务，大型语言模型推理价格每年下降幅度介于 9 倍至 900 倍之间。在知识、推理、数学和软件工程等领域，达到特定基准水平的价格下跌速度尤为惊人。

这一现象由多重因素驱动：硬件层面，GPU 加速器和数据中心利用率不断提升；市场层面，多家实验室提供相似能力引发残酷的价格竞争；技术层面，模型设计进步显著，包括小模型能力增强、蒸馏技术、路由优化、量化、缓存机制以及服务系统的改进，使行业学会以更少算力完成同等工作。

2022 年底，GPT-3.5 尚属前沿模型；而至 2024 年底，同等能力已由更小、更便宜的模型以极低成本提供。

重塑初创企业的产品形态

推理成本的断崖式下跌改变了可行产品的经济模型。2023 年，许多 AI 功能受限于单位经济效益，创始人虽能构建惊艳演示，但每次用户交互均伴随高昂成本。若模型需处理长上下文、生成长文本或在工作流中反复运行，产品在找到真实场景前便可能因经济模型崩溃而夭折。

当固定能力水平的推理成本降低 280 倍，诸多约束随之松动。曾经需配给的功能可转为常开状态：客服机器人可总结每张工单而非仅升级案例；写作工具可在后台并行生成多个草稿；合规产品可扫描更多文档；教育应用可更频繁地生成反馈；内部知识库工具可回应此前因调用昂贵而被忽略的琐碎问题。

最直接的影响在于加速实验。低廉的推理成本让团队无需为每次交互制作复杂的成本表格即可测试更多产品想法。这也重塑了用户体验（UX）：产品不再要求用户等待单次昂贵响应，而是可在后台无声运行一系列小型模型调用，执行分类、检索、重写、检查、个性化和摘要等任务。

AI 因此不再仅仅是一个功能，而成为软件中的环境层。用户未必感知到后台运行的六次模型调用，但会注意到产品反应更快、组织更有序、对上下文更敏感。

陷阱：廉价 Token 不等于廉价 AI 账单

价格崩塌背后存在陷阱。更便宜的推理并不自动导致 AI 总账单下降。正如存储、带宽和云计算的历史所示，边际成本下降往往刺激使用量扩张，低价创造新用例，新用例又催生更多需求。

此外，" 前沿溢价 " 依然显著。报告指出，最先进模型仍比小型替代方案昂贵得多。2025 年初，OpenAI 的 o1 和 Claude 3.5 Sonnet 等模型的输出 Token 价格远高于廉价小模型。能完成任务的最便宜模型，未必能胜任最困难的任务。

因此，初创企业的核心问题已从 " 我们负担得起 AI 吗？" 转变为 " 产品的哪些部分需要前沿智能，哪些部分只需接近大宗商品成本的‘足够好’的智能？"

善于回答此问题的公司将建立更优利润率：有选择地使用昂贵模型处理复杂推理、敏感决策、高难度代码、高价值企业工作流或失败成本高昂的任务；而对于分类、提取、重写、路由、格式化和日常辅助，则采用更便宜的模型。

商品化迅速到来，护城河转移

价格崩塌带来另一重影响：若 GPT-3.5 级别的能力近乎免费，" 拥有 AI" 便不再是可防御的主张。初创企业无法围绕人人可廉价调用的模型访问权建立持久公司。

竞争优势被迫转移：分发渠道、专有数据、工作流程知识变得至关重要；信任、合规、集成能力和产品品味成为新的壁垒。模型依然重要，但仅靠模型已难以构成护城河。

这是 AI 热潮中令创始人不安的一面。当底层能力曲线移动速度快于产品周期时，技术优势可能迅速消散。在种子轮融资演示中显得昂贵且稀缺的技术，可能在下一轮融资前已沦为大宗商品。

但这种压缩也创造了机会。若模型能力提升速度快于现有企业重组速度，初创企业可攻击此前经济上不可行的工作流，提供富含 AI 功能的软件类产品，自动化那些以往因人工太贵、机器推理太贵而被忽视的长尾任务。

真正的崩塌在于心理许可

最深刻的变化或许是心理层面的。高昂的推理成本曾迫使团队在使用 AI 前寻求经济许可，每个功能和后台进程都需经过严格的支出辩护。

当 GPT-3.5 级别能力的成本降至每百万 Token 7 美分时，问题发生了根本转变。团队开始思考：什么是默认应具备智能的？这并非因为每个任务都值得前沿模型，而是因为许多任务现在值得某种程度的模型辅助。

这种价格崩塌在计算领域鲜有先例。这不仅是一项服务变便宜，更意味着自然语言智能这一新型软件输入，在不到两年时间里，从高端稀缺品转变为大众可用商品。

最终的赢家不会是那些仅在 Token 上花费最少的公司，而是那些深刻理解廉价智能使什么成为可能、使什么变得毫无价值的公司。

2022 年底，GPT-3.5 级别的 AI 是开发者小心翼翼使用的工具；2024 年底，同等能力的定价已如基础设施尘埃般低廉。这并非 AI 商业模式的终结，而是一个更严酷模式的开端：当智能变得廉价，产品必须真正有用。

【星途科讯 图文丨小林 首发于 ZAKER 科技，转载请注明出处】