来源:环球网
【环球网科技报道 记者 李文瑶】10 月 22 日,2026 中国计算机大会(CNCC 2026)在成都举行。会议期间,中科曙光高级副总裁李斌对推理负载变化作出判断:随着人工智能从内容生成走向任务执行,推理不再是偶发、短时的请求,而是长期运行、持续交互的生产型进程;算力系统需要从单机峰值能力转向系统有效算力,围绕 Token 产出效率重构。
这一判断的背景是,Agent 规模化应用正在推动 Token 需求快速增长,高通量推理正成为算力产业的新变量。算力市场的关注点也随之从 " 建多少资源 " 转向 " 产出多少有效 Token",系统效率、调度能力和运营水平被推到台前。
同日,中科曙光展示面向 Token 经济的智算基础设施方案,集中展出超节点、AI 存储、高速网络、超集群等产品及 AI 推理优化服务方案,并发布可管控百万量级设备的 FabricView 智算网络管理平台。从产品展示到平台发布,这一系列举动指向同一趋势:算力产业正从 " 建算力 " 向 " 用好算力 " 调整方向,算力企业也需要在系统交付、跨域调度和持续运营上重新组织能力。
Token 需求被 Agent 重新定义
过去,生成式 AI 的典型负载是短时、偶发、单轮的内容生成请求,算力系统更关注峰值性能和资源供给。但当 AI 进入 " 执行 " 阶段,Agent 需要持续交互、调用工具、拆解任务并与其他智能体协同,推理负载随之呈现高并发、长文本、持续运行等特征。Token 不再只是模型调用的计量单位,而成为衡量成本与产出的核心指标。
IDC 中国区副总裁周震刚在 CNCC 2026 期间展示的行业观察指向同一趋势:全球活跃 Agent 数量将从 2026 年的 7940 万个增至 2030 年的 22.16 亿个;中国市场 2026 年活跃 Agent 数量为 495 万个,2030 年将达 2 亿个,Agent 部署渗透率高于全球领先水平。Agent 数量增长与任务复杂度提升叠加,使 Token 消耗由任务执行次数、单任务 Token 消耗和多智能体协同放大系数共同推高。
这意味着,算力市场的关注重点正在从 " 拥有多少资源 " 转向 " 资源能产出多少有效 Token"。竞争焦点也从芯片峰值算力转向系统有效算力,即算、存、网的低损耗协同;运行重心从资源供给转向调度、数据供给和 Token 运营;部署形态从集中式智算中心走向云边端协同;价值实现方式从购买模型能力转向场景化智能能力服务。
李斌在大会演讲中进一步指出,围绕 " 超节点+超集群 " 开展一体化系统工程创新,构建训推一体、极致高效、绿色节能、稳定可靠的算力系统,成为发展 AI 基础设施、提升 Token 生产效率的重要方向。
异构计算系统需求上升
负载性质的变化,正在改变算力系统的内部结构。传统 AI 服务器 CPU 与 GPU 配比通常为 1:8 至 1:4,但在 Agent 场景中,CPU 需要承担工作流编排、工具调用和状态管理,通算智能化成为新趋势。与此同时," 超节点 +PD 分离 " 成为系统级计算能力优化方向。IDC 数据显示,94.3% 的企业认为超节点与 PD 分离是重要能力。
中科曙光此次展示的 scaleX40 超节点,通过一层组网实现全交换 scale-up,形成内存语义的百纳秒级低延迟网络,并通过无线缆正交结构与全电互连,大幅提高系统可用性,是构建高通量推理基础设施的标准单元。在更大规模扩展上,scaleFabric 原生无损 RDMA 高速网络可将多个计算节点互连形成千卡、万卡、十万卡规模的超集群;ParaStor 不仅为 AI 全流程提供统一存储池,还针对模型训推进行了算存传深度协同优化。网络运维侧,首次发布的高速网络智能运维管理平台 FabricView 专为 scaleFabric 大规模集群网络定制研发,具备自动化配置管理、主动性能压测筛查、业务拓扑感知调度、故障诊断自愈、全栈多维度可观测和智能运维管理等功能,可集中纳管百万量级设备、端口与光模块。其意义在于,大规模网络环境下的故障定位与恢复由人工驱动转向 AI 代理驱动,显著提升了超大规模集群的运维效率与可靠性。
从产业逻辑看,异构计算系统需求上升并非简单的硬件升级,而是系统化协同的结果。芯片、超节点、网络、存储、液冷和调度软件需要围绕 Token 产出效率重新匹配,系统交付能力将直接影响推理成本和长期运行稳定性。
算力网络与持续运营服务走到台前
算力供需缺口长期存在,进一步强化了系统化布局的必要性。IDC 数据显示,全球 AI 算力供需缺口绝对值将从 2024 年的 389 亿美元扩大至 2030 年的 3809 亿美元;97.3% 的企业计划扩大投入,37.7% 的企业增加推理投入,价格信号和产能、能源约束同时存在。
中科曙光工程师分享的全栈推理优化方案,针对算力空转、通信等待、访存搬运、调度排队等阻碍 Token 高效产出的四堵墙,围绕 " 算、传、存、调 " 进行全链路软硬协同优化,贯穿应用、框架、算子、运行时、系统和芯片六个层级,大幅提升有效 Token 吞吐。PD 分离架构优化方案,针对解耦预填充与解码阶段,通过资源独立配置、智能调度与 KV Cache 高效传输,在 minimax2.5 PD 分离测试中,实现 P 性能提升 237.5%,D 性能提升 228.57%。ParaCache 缓存管理方案,采用曙光 ParaStor 分布式存储和 FlashNexus 集中式存储,构建高性价比的生产级 L4 KV Cache 池,实现 TTFT 降低 95%+,Token 吞吐性能提升 15~25 倍,64K 上下文并发数提升 16 倍等目标,并可将单 TB 成本降至内存方案的四十分之一。
这些优化表明,算力交付不再只是 " 卖设备 ",而是交付可运行、可治理、可持续优化的任务级服务。
中科曙光加快系统化布局
在这一趋势下,中科曙光正加快系统化布局。CNCC 2026 期间,中科曙光方面透露,公司正围绕 " 超节点+超集群 " 开展布局,并依托国家超算互联网,强化异构资源统一调度、任务级服务交付和持续运营能力。
从算存网产品到推理优化服务,中科曙光将系统研发、工程实施与持续运营连接起来,使智算基础设施既能承接更大的业务规模,也能在长期使用中保持效率与稳定性,持续支撑模型迭代和应用发展。
这一布局的产业含义在于,算力企业正由单一设备供应向系统建设和算力服务拓展。超节点、超集群和国家超算互联网分别对应系统级协同、资源池化调度和跨域服务网络,背后是算力供给方式从 " 卖硬件 " 转向 " 建系统、做服务 "。
竞争焦点转向交付与效率
未来算力市场的争夺,不再只是单点硬件性能的比拼,而是系统交付能力和长期运行效率的较量。谁能把计算、存储、网络、供电、冷却等子系统组织成稳定高效的整体,在 Token 吞吐、可用性和成本控制上形成优势,谁就更有机会在竞争中占据主动。
正如李斌在大会演讲中所言,系统建设需统筹芯、算、存、网、电、冷等各环节之间的配合,将设备性能充分转化为实际可用的算力。


登录后才可以发布评论哦
打开小程序可以发布评论哦