更低成本交付智能

"AI 的下一场仗，不是比谁更聪明，是比谁更能稳定、便宜地交付智能。"  

10 月 17 日，央视财经《对话》走进杭州 " 新八骏 "，探访国产 GPU 企业曦望 Sunrise。节目现场，曦望新一代原生推理 GPU 启望 S3、256 卡超节点亮相。Token 成本背后的产业经济账，成为本次对话核心议题。

智能体（Agent）在今年爆发，" 未来十年，我们将正式进入人机共生时代。" 曦望 Sunrise 联席 CEO 王湛说，需要持续降低单位 Token 成本，让更多企业用得起、用得稳、跑得快。" 曦望要做 AI 产业的 ' 损益优化师 '。"

Agent 加速普及，用户开始为 Token 算账

" 未来每个人可能拥有 2 至 3 个 Agent，Agent 总量有望超过人类。" 王湛判断。与普通问答不同，Agent 需要反复规划、检索和调用工具，Token 消耗大幅增加，推理算力需求的增长才刚刚开始。

算力成本居高不下成为用户新难题。"Token 费用，和水费、电费一样，会列在每个人、每家企业的账单上，大家要开始为 Token 算账了。" 王湛表示。

过去，客户关注算力有多强、显存有多大；如今，更关心业务能否跑得起、跑得稳、跑得便宜。

王湛介绍，2024 年，曦望发现客户使用启望 S2 的业务场景绝大多数集中在推理侧。这让公司进一步判断，推理算力规模将很快超越训练。

2024 年底，曦望将 "All-in 推理 " 写入公司战略，致力于降低单位 Token 成本。" 在国产 GPU 公司中，我们是第一个吃螃蟹的。"

从存储到超节点，算力降本需要新技术路径

单位 Token 成本 =（硬件摊销分摊成本 + 算力运行成本 + 系统运维成本）÷ Token 产出量。

" 降低分子，提高分母。" 节目中，王湛给出一套降低 Token 成本简易公式。

新一代原生推理 GPU 启望 S3 专注推理场景，精简训练相关模块，将节省的晶体管和功耗预算更多用于推理。同时，国内第一个用 LPDDR6 替代传统 HBM 方案，探索容量优先、成本更低的存储路线。在软件生态方面，曦望兼容主流 AI 生态，降低客户 AI 应用迁移成本。

分子端做减法，分母端做加法。曦望通过高速互联、分层存储及原生支持 FP4 低精度等，提升分母端 Token 产出效率。" 据我们测算，相比上一代 S2，启望 S3 推理性能提升约 5 倍，单位 Token 推理成本下降约 90%。"

节目还展示了搭载 S3 的 256 卡超节点。这台被王湛称为 " 推理巨兽 " 的设备，通过高速互联，让 256 张 GPU 不再各自为战，像一台超大 GPU 一样协同工作，可支持万亿乃至更大参数量的多模态 MoE 模型。" 为什么超节点今天很重要？现在大模型已经来到万亿参数级别，未来还会做得更大，用户需要强大的系统级算力。"

" 只有把单位 Token 的成本打下来，大量智能应用才会在千行百业中真正跑起来，实现智能普惠。" 王湛表示。