A5创业网 4小时前
从“算力工厂”到“Token工厂”:博伦智汇如何解决异构调度这道难题
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

中国信通院在《面向词元(Token)服务的智算基础设施发展研究报告(2026 年)》中给出了一个明确的判断:推理算力首次超越训练算力成为需求主体,Token 正在取代 FLOPS 和 GPU 卡数,成为衡量 AI 产业价值的新标尺。报告在梳理新兴 Token 服务商时写道,博伦智汇 " 专注于异构智算平台与梯度 Token 工厂技术服务,自研 TOLD 技术栈已在万卡级别的英伟达与国产 GPU 异构集群上完成真实验证 "。在信通院对 Token 赛道代表性力量的观察中,博伦智汇与硅基流动、趋境科技、清程极智、无问芯穹等企业一同进入这份产业图景,意味着 " 异构算力如何转化为可交付的 Token" 这一命题,正在从工程问题上升为基础设施层面的公共议题。

Token 工厂的难点,并不在于 " 有没有 GPU"。大量智算中心机柜上架之后处于低负载状态,异构芯片之间又因架构差异难以协同,从芯片到稳定输出 Token 之间横着纳管、调度、适配、运维等多道鸿沟。博伦智汇的 BooleanMix 平台,正是围绕这条鸿沟展开的四轮迭代。

四轮迭代:一条以 Token 交付为目标的演进路径

BooleanMix 的第一次上线,建立了管控中心与租户工作台的双入口。管控中心承接异构算力的统一分配与模型管理,租户工作台负责模型服务、聚合入口和基础监控。这一阶段完成的是基本链路的贯通:算力经过组织进入部署,部署形成可调用服务,服务再通过聚合层对外交付。资源总览与基础监控则让平台从 " 完成部署 " 延伸到 " 持续掌握运行状态 "。

第二次上线把重心推向模型与国产算力的适配深度。平台建设基于 Diffusers 的图像、视频生成服务框架,推进天数系列、海光 BR 系列芯片的推理引擎适配,并引入模型服务自定义启动参数与部署验证环节——测试结果被写入 Manifest,特定模型与 GPU 组合的启动耗时也被记录积累。运维侧同步补上了模型安装错误日志、推理 Pod 日志、文生视频监控与视频文件安全下载。从适配、配置、验证到日志监控,这一轮把技术工作贯穿到模型服务运行的前后。

第三次上线相对聚焦,但指向一个容易被忽略的交付环节:租户可以在工作台修改 Client 级别的背景、文案与 Logo,底层模型服务与面向 B 端用户的品牌表达由此衔接。

第四次上线则回应了模型持续更新带来的连续性挑战。Inference Service 增加无缝升级能力,支持模型优化后的不停服更新与无用资源清理;推理框架镜像的项目归属被规范,中心至边缘镜像仓库按需同步,减少不必要的传输与存储占用。新版服务管理组件兼容旧版服务,现有服务无需强制升级,可以逐步切换。新模型上线流程同步规范,适配、镜像准备、服务更新与版本兼容被组织进同一条持续交付链路。Benchmark 测试平台、压力测试工具与 Jenkins 集成、ARM 多架构 CI/CD 改造也在这一阶段进入研发配套,为后续版本积累验证工具。

TOLD:把调度顺序从 " 有什么用什么 " 翻转为 " 要什么给什么 "

四次迭代背后是一条统一的架构主线:TOLD(Token-Oriented Large-scale Distributed Architecture)。传统算力调度是资源导向的——先看手上有什么 GPU,再想办法适配部署;TOLD 把顺序反过来,先理解需要交付什么样的 Token,再反向推导算力、模型与调度策略。用物流来类比:资源导向像一家只有卡车的公司,无论货品属性一律用卡车配送;TOLD 更接近智能调度中心,先弄清 " 货 " 的时效与属性,再决定用什么车、走什么路,必要时拆分与协同。Token 就是被调度的 " 货 "。

一条正在被行业验证的技术路径

从信通院报告对博伦智汇的引用,到 IDC 中国持续关注的异构算力管理与 Token 计量议题,一个信号是清晰的:Token 经济的基础设施竞争,不会停留在 " 谁有更多卡 ",而会落到 " 谁能把异构算力稳定、高效、可计量地转化为 Token 交付 "。BooleanMix 的四轮迭代没有试图一次性解决所有问题,而是沿着资源管理、适配验证、租户交付、持续升级的顺序逐层收敛。这条路径本身,就是对 "Token 工厂 " 从概念走向可运营基础设施的一种工程回答。

面向下一阶段,博伦智汇开放两类合作方向:一是欢迎持有优质国产 GPU 或英伟达 GPU 资产的 IDC 运营方、智算中心与资产方,围绕异构算力的统一纳管与梯级 Token 输出展开合作;二是欢迎有意共建优质 Token 工厂的资方与产业伙伴,共同推进从算力资产到 Token 产能的规模化交付。在 Token 逐步成为 AI 服务基本计量单元的背景下,异构调度层的开放协作,或许比单点算力扩张更值得下注。

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

英伟达 gpu 芯片 基础设施 中国信通院
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论