艾诚对话唐博

iAsk: Gloria Ai Talks with Tang Bo

编者按：行云科技首席科学家、南方科技大学研究员、AlayaDB.AI创始人唐博是向量检索领域的国际顶级专家，其研究成果在纯内存查询与磁盘检索双赛道性能全球第一。在《艾问人物》播客对话中，唐博表示：AI下半场的胜负手不是谁拥有更多卡，而是谁能把同样的算力变成更低成本、更高质量、更稳定交付的Token。

真正决定AI进入产业的，不再只是谁有更多卡

The key to AI industrial adoption is no longer a matter of who has more graphics cards

作为一家处在AI算力产业链中游的公司，行云科技（300209）很容易被外界简单理解为一家拥有算力资源、提供算力服务的公司。

但在AI进入推理时代之后，这个理解正在变得不够用了。GPU仍然重要，甚至会继续重要。但当越来越多企业开始调用模型，当Agent、视频生成、长上下文和世界模型开始吞噬Token。

真正决定AI能否进入产业的，不再只是"谁有更多卡"，而是"谁能把同样的卡用出更高效率"。这也是唐博加入行云科技，担任首席科学家的背景。

《艾问人物》对话AI，正在邀约中

iAsk AI Dialogue Series Is Now Open

在当天的活动现场，艾诚说，这不仅是一次人事聘任，更是行云科技面向AI算力下半场的一次战略选择。它意味着，行云将把算力基建、Token效率、推理加速和产业应用连接起来。

唐博反复提到一个词：效率。在他看来，AI竞争正在从模型参数、排行榜、融资规模，转向更底层的问题：系统能力、推理成本和单位Token效率。模型能力会趋同，真正的胜负手，是谁能把模型的活儿干好。

这场对话里，艾诚和唐博聊了中美AI竞争、Token价格战、全球股王换人、国产算力、AI估值公式，也聊了为什么AI企业越来越需要首席科学家。以下是经《艾问人物》总编室编辑整理后的对话。

基座模型能力会趋同，真正胜负手是系统级能力

Foundational model capabilities will converge; system-level competence is the real game-changer.

艾诚：2026年的AI战场已经不是实验室的单点突破，而是全球产业链的正面交锋。美国有OpenAI、Anthropic，中国有DeepSeek、Kimi、智谱、豆包——不管是长文本还是高频应用，都在低价切入市场。

我的第一个问题：今天中美AI竞争的真正决胜点，还是模型参数和排行榜吗？还是已经变成了系统能力、推理成本和Token效率？

唐博：现在模型的基座能力基本上趋同了。往后发展，我们可能会看到更大参数量的模型，但它的能力和现在的差距会保持在一个饱和状态。中国和美国必须有各自的模型壁垒。

比如，某些美国模型未来可能突然不允许外国人访问，这是两个国家在模型层面的竞争。

所以基座模型能力会趋同，真正的胜负手是系统级能力——上层怎么把模型的活儿干好，这才是下半场的胜负手。

艾诚：也就是说，大模型的竞争最终要看企业客户和普通用户是否愿意持续付费。拼的是谁真的能把生产力做得更便宜、更好用、更普惠。

唐博：对，但不能把模型的能力简单定义为我们跟它聊天。真正的落地场景，是把业务流里很多需要人做的事情替代掉。

比如财务报销——提单、核单、验单、拨付，整个流程不是靠一个聊天模型能解决的，而是真正能把这件事做成。将来大家在聊天场景的模型能力普及后，剩下的就是落地到企业级生产里面去。

我会选单位Token成本

My choice is cost per unit token

艾诚 ：今天我们聊了一个非常重要的概念——Token。它是AI时代最小的商品颗粒。同样消耗一百万个Token，用在天南地北的聊天上，和用在金融支付、医疗教育上，产生的价值完全不同。Token的效率，才是利润表。所以中国模型的强项是性价比，美国模型的竞争优势在哪儿？

唐博：技术。我是做系统研究的。从我的角度来讲，技术是什么？中国有很强的业务链、生产链、应用场景。但在一些具体问题上，比如用模型解决奥林匹克级别的数学问题，根本上还是在于如何让模型具备解决复杂问题的能力。在这些点上，我们还需要长时间投入。

艾诚：中国AI模型企业今天卷价格，会不会逼出真正的技术效率？还是变成移动互联网时代那种烧钱换市场的模式？

唐博：我觉得会逼出来谁是骡子谁是马。价格打下去的同时，谁能解决真正的问题，谁能把模型能力真正落到生产里面去，这才能分出高下。

艾诚：如果只选一个指标来判断大模型公司有没有长期价值——模型能力、用户规模，还是单位Token成本？

唐博：我会选单位Token成本。因为Token产生之后，能力就已经被验证了。你能用更低成本产生更多Token，用户基数自然就上来了。

艾诚：今年Token价格下降了近90%，API接口越来越便宜。企业一边兴奋，一边又担心——如果价格一直打下去，模型公司还能赚到钱吗？

唐博：两方面都有。一方面，模型价格下降意味着它不再是少数人在用，而是更多企业、开发者、更多场景能用起来，真正像电力一样普惠。

另一方面，Token降价会打掉一批没有真实效率壁垒的公司。如果你卖Token全靠溢价来活，价格战一打，你没有任何优势，用户数、模型能力都会萎缩。

艾诚：所以Token降价其实是好事，让AI不仅仅是少数大厂或极客的基础设施，大家都能用。就像当年电商打价格战，最后活下来的不是最会烧钱的，而是供应链效率最高的。那如果一家模型公司的API价格低于成本，投资人该怎么办？

唐博：投资人会紧张，会开始想什么时候退出。因为这种情况下，这家公司今天能不能活过明天都是个问题。

未来的股王一定是卖AI时代的生产力

The future market leader in equities must deliver AI-era productivity

艾诚：2026年最神奇的资本市场现象，就是全球各个国家的股王都在换。

唐博：韩国是三星换到了SK海力士。

艾诚：美国是苹果换到了英伟达。

唐博：中国也不再是茅台了。

艾诚：变成了AI上游的光模块——中际旭创。这正常吗？这是泡沫吗？还会涨吗？

唐博：我觉得太正常了。这是整个AI时代的趋势——AI会重新改写所有行业和所有公司的估值，而不是某一个行业提高一点估值。从半导体到将来的AI智能体应用，整个市场的估值会重新洗牌。

艾诚：如果把这个判断往下拆，AI时代的股王到底卖什么？是卖芯片、卖模型，还是卖Token？

唐博：未来的股王一定是卖AI时代的生产力。模型只是一个层次，芯片也是一个层次。更大的命题是，怎么把模型用到Agent里，用到工业生产里，怎么把Token像电力一样输送到各个行业。

"上游决定AI能不能跑起来，中游决定AI跑得贵不贵，下游决定AI值不值钱"

艾诚：过去两年资本市场最大的赢家是上游设备——英伟达、光模块、电力、液冷、数据中心。接下来资金和人才会不会向中游算力平台和下游应用迁移？

唐博：答案肯定是肯定的。首先我们对算力的需求还会加大，不管是训练还是推理。市场已经很明显了，接下来会从模型训练向推理范式转变。

算力会用在什么地方？服务于千行百业。大家在上面调一个API解决各自问题，自然就往中游和下游走了。算力运维、推理服务、Model as a Service，再往下是垂直行业——法律、金融、医疗。这一系列推理需求都需要算力。

艾诚：所以上游决定AI能不能跑起来，中游决定AI跑得贵不贵，下游决定AI值不值钱。

唐博：是的。从我的逻辑来看，今年韩国、美国、中国资本市场都在重构，整个产业在重新洗牌——谁到底值多少钱，谁能挣多少钱，都会随着AI时代重新排序。

艾诚：那国产芯片和英伟达的差距，最核心卡在哪儿了？

唐博：国产芯片的瓶颈有两大方面。第一是生态。有没有人敢用？用了体验不好怎么办？在英伟达上开发程序出了问题，我们会认为是自己能力不行；但在国产卡上出了问题，大家会先问"这是谁提供的卡？找他们来解决问题"。你不知道是自己不行还是卡不行，这是信任问题。

第二是国产卡需要时间。国家一定会扶持国产卡，将来能够和英伟达掰手腕。用户有足够耐心陪卡厂商一起成长，卡厂商也愿意在关键领域投入精力。

艾诚：那光模块、液冷、电力这些基础设施公司，会成为AI时代的隐形冠军吗？

唐博：核心逻辑是——电力怎么样变成Token。液冷、光模块、算力，本质上都是让模型能力更好服务于应用需求，都是产业链上的关键环节。这些环节的关键技术都会成为整个行业的制胜点。

艾诚：如果上游设备进入周期波动，中游算力平台该怎么抵御硬件价格的波动？

唐博：抵御不太现实。中间层的能力不是抵御，是缓冲——不会被某个因素直接带垮。

Token会像电力一样普惠，也会出现潮汐算力

Tokens will become universally accessible like electricity, and tidal computing capacity will emerge as well

艾诚：如果Token消耗量如此猛涨，谁是消耗Token的"吞金兽"？

唐博：从技术角度分几个层次。聊天可能消耗数十到数百个Token。第二层是AI编程，Code Agent任务一次消耗数百到数千Token。第三层是Agent，每一轮对话都会变成下一轮输入，推理过程累积成长上下文，这是Token消耗的大头。

再往上，视频模型比文本模型更消耗Token。下一代是世界模型，开始感知物理世界之后，画面、声音、所有可解释的东西都在消耗Token。文字到视频到世界模型，Token开销是指数级增长的。

艾诚：那这么大的消耗，会不会变成少数人的游戏，很难做到真正的普惠？

唐博：不会。就像用电一样，最开始能用上电的人很少，但现在电力基本已经普惠了。它随着用的人越来越多，反而越来越便宜。

艾诚：对，小时候我们还会定期停电，晚上的电和白天价格不一样。我们现在就处在这样一个阶段。未来Token价格一定会大降。

唐博：而且会出现潮汐算力——白天用户量大，调用大量算力；晚上闲置时，高峰期和低谷期Token计价完全不一样。

艾诚：所以会出现一个类似于国家电网的Token时代的基础设施，把闲时算力、潮汐算力做匹配和调度。

汉字是人类的语言 Token是模型能读懂的语言

Chinese writing belongs to human communication, while tokens constitute the readable language for AI models

艾诚：那在你心目中，Token到底是什么？如果给你的学生讲，你怎么解释？

唐博：我做过一个科普的比方：我们说的所有汉语来自五千个汉字。对于模型来讲，它认识的字就是Token——你的输入有Token，输出也有Token。简单说，汉字是人类的语言，Token是模型能读懂的语言。

艾诚：Token是AI时代的度量衡。那Token和电力的"度"有什么相似和不同？

唐博：相同点是大家都是消耗品。你会用电给手机充电、照明，Token也是一样——可以对话、写代码、写文章、生成图片视频。不同点在于，电产生需要风能、煤炭；Token产生需要算力、模型。

艾诚：有了Token，AI才能进入成本表和利润表。那你觉得AI公司的估值应该怎么算？

唐博：如果把Token看作X，AI公司的估值Y就是关于X的函数。第一个X是Token的产生量；第二个X是产生的Token用在什么地方、产生了多少价值——这是毛利润；第三个X是毛利润的持续性。

同样生成100个Token，用在聊天上大家觉得用谁家都一样，没人愿意花钱；但如果这100个Token是在解决企业具体业务问题，你可以卖溢价——因为除了你别人解决不了。

所以一家AI企业的价值 = Token产生量 × 单位Token收入 × 利润率 × 可持续效率系数。

艾诚：那今天很多AI公司估值很高，我们到底该怎么判断它是泡沫还是价值？该问自己什么问题？

唐博：问三个问题：这家公司的Token处理量有没有规模？Token是不是高价值Token？毛利来自技术效率还是融资补贴？任何一个问题如果能得到肯定回答，就值得关注。

比如如果有一家公司能给中国10亿人口提供Token消耗服务——就像国家电网，它可能自己不发电，但能把电转化好、用好——那这家公司就值得投入。另外就是垂直领域，高价值的Token如果有不可替代性，也值得关注。

艾诚：如果您是一个投资人，尽调一家AI算力平台，会看什么？

唐博：第一我不会看它现在的收入。我会看它的Token产生量。第二，这些Token用在哪些行业——这决定了赛道高度。纯聊天是廉价Token。高价值Token在政务、金融、法律这些专业性强、难以被通用模型取代的行业。

行云要从卖资源到卖智能

Xingyun shall shift from selling resources to selling intelligence

艾诚：所以上游的芯片、服务器、光模块已经一目了然了，中游如火如荼，下游大家都在看能不能出现更多智能体。未来资金和人才一定会向垂直应用迁移。

唐博：这是一个非常明确的趋势。半年前大家聊得最多的是"万卡集群"，现在聊的是"Token分销"。接下来会出现一个词叫"效率价值"——你用的Token产生了什么价值。

艾诚：行云是一家典型的"中游算力平台"。作为首席科学家，你会建议行云做什么？

唐博：一句话：从卖资源到卖智能。行云现在做算力租赁，中间阶段是Token分销，最后是直接解决用户需求。用户计价不再是"用了你多少Token"，而是"你给我的这个效果我愿意付多少钱"。

艾诚：从显卡包租公变成智能基础设施，方向大家都知道，好实现吗？

唐博：有难度。所以这也是为什么AlayaDB.AI和行云的战略愿景是"做世界最强的MaaS基础设施"。

我不觉得中国技术跟美国技术有多大差距。基座模型能力会趋同，MaaS需要的不只是基座模型，还有系统工程和上层应用。

相同的卡怎么产生更高效率的Token，这就是一个非常大的命题。

艾诚：科学家在这个过程中扮演什么角色？

唐博：第一个层次是模型架构——现在大家都是Transformer，下一代架构在哪里？第二个层次是有限资源上怎么把各方力量发挥出来，让Token产生更高效。

艾诚：Token在科学家的加持下成本越来越低，那算力会不会越来越不够用？

唐博：会的。这就是杰文斯悖论——效率提升、价格降低，总消费量反而上升。Token的消耗是指数级增长的，不是一个月涨几倍，是几十倍、几百倍。

算力不单纯只是卡

Computing power is far more than just GPUs

艾诚：所以Token降价不是AI成本故事的结束，而是需求爆炸的开始。那在你心目中，算力到底是什么？

唐博：算力不单纯只是卡。它是把芯片、网络、存储、数据、调度系统整合起来的能力。一台B300怎么发挥五台B300的能力？硬件就是这个硬件，你怎么样通过系统能力把Token产生的性能提升——这才是算力的核心命题。

艾诚：真正的算力不是"我有多少卡"，而是"我能以多低的成本、多高的稳定性、多快的速度生产多少有效的Token"。那训练和推理的成本结构有什么不同？

唐博：用发电来打比方。训练是建发电厂，是少数人干的活。推理是我们所有人都在用电，每家每户都在消耗。训练看的是峰值能力，推理看的是长期运营能力。

艾诚：所以谁能把推理侧做好，谁就能把AI从演示变成真实的业务。那如果一家实体企业要部署AI应用，应该先问模型能力，还是先问推理成本？

唐博：不同的企业有不同问法。对于没有AI技术能力的实体企业，我建议先关心业务需求——AI要给你解决什么问题。不用上来就问"我要不要买集群、部署什么模型"。

举个例子：我们有一家金融客户，有国资背景，每次要填很多Excel表——投了哪家企业、估值多少、利润率多少。以前招人填，后来问我们能不能用AI做。我们很快在一台5090上就解决了整个业务。他需要先知道业务需求，再推导需要多少Token、多少算力。

艾诚：很多传统企业会焦虑：AI很重要，但我不是大厂，没有预算自建模型和数据中心。我到底该怎么办？

唐博：做AI转型是大家都可以做的。拥抱AI，就是把自己业务里费时费人的事抽象出来，变成一个Token可以解决的问题——客服、销售、研发、设计、质检，哪些环节可以被Token化，然后找一家AI公司提供方案。

艾诚：那这些企业第一次做AI项目，最容易犯的错是什么？

唐博：上来就问"我该买多少卡"。我见过太多这样的企业。市场上对卡的需求让所有人觉得没有卡就干不了AI——其实不是。Token运营官会告诉你，买卡解决和买Token解决哪个更便宜。

论文永远只是论文，关键是能不能变成产品

Papers are just papers; what matters is whether they can be turned into products

艾诚：现在科学家创业、科学家加入企业非常常见，有个笑话说AI创业科学家都不够用了，你怎么看？

唐博：现在这个风口，和上一个互联网时代的风口完全不一样。现在AI的创新，源自于高校，源自于科研机构。所以这也就是为什么科学家不够用的最关键原因。

艾诚：但科学和商业之间有一个巨大的缝隙，论文好不代表产品卖得好，技术好也不代表客户会买单。

唐博：这个问题更加深刻。核心在于，论文永远只是论文，它跟产品还有非常大的差距。第一个，发表论文的人，能不能把技术落到产品里面去；第二个，技术落到产品里面去之后，有没有用户愿意为它买单。

从我的角度来讲，这就是我跟行云合作的关键——我已经把技术落到产品上了，但产品怎么去服务最终的客户，这是我们在思考和解决的问题。

艾诚：共同加强被市场驱动的技术。

科学家不是一个头衔，它是一个范式的翻译者

Scientist is not merely a title, but a translator of paradigms

艾诚：回到今天这场对话的初心——为什么AI企业越来越重视首席科学家？他是干什么的？

唐博：科学家不是一个头衔，它是一个范式的翻译者。科学家不是CTO、不是技术负责人，他是给整个企业提供战略定位的人——你的方向在哪里、怎么走。

在科学家眼里，什么是前沿技术、什么是真正的产品。真正的产品是工程团队解决的，前沿技术需要科学家翻译给这些人听。

艾诚：他和CTO、研发负责人有什么区别？

唐博：用宽度和深度来解释。CEO管宽度——企业的运营范围在哪里。科学家管深度——知道上限在哪里、下限在哪里。CEO决定很多事，但科学家要告诉CEO什么是对的、什么是错的、什么是能干的、什么是不能干的。

艾诚：决定一家AI企业未来的是企业家还是科学家？

唐博：CEO决定业务范围，首席科学家决定技术深度，中间有一个交叉——这个交叉在AI时代就是Token。CEO告诉科学家怎么活下去，科学家告诉CEO怎么有不可替代性。

艾诚：AI企业既需要企业家，也需要科学家、产品经理和工程团队。我最好奇的是最终决定AI企业方向的是谁？

唐博：我觉得科学家会决定企业的高度，CEO会决定企业的广度。科学家会决定技术能走多深，企业家会决定技术能服务多少人。

艾诚：企业最怕各说各话，因为没有共同语言就会内耗。Token这个词能不能成为共同的语言？

唐博：我觉得可以。深度和广度之间有一个交叉，Token就会成为这个交叉点，让大家能够听懂对方的话，然后翻译成自己的语言去执行。

艾诚：那企业家领导科学家、管理科学家，最需要避免的是什么？

唐博：最需要避免的是外行领导内行，就是不懂技术但瞎指挥。

你只是会用模型，还是能设计系统？

Do you only know how to use models, or can you design systems?

艾诚：AI时代的人才市场非常撕裂——顶尖科学家年薪几亿美金，普通AI专业应届生反而找不到工作。你怎么看？

唐博：首席科学家看的是解决将来的问题——企业的高度和技术壁垒。CEO或CTO看的是现在交付的能力。自从有了AI编程工具，简单的编码工作已经被替代了。一个人加上他的Agent军团，就能顶原来若干个人。

在这种情况下，用AI的人不一定安全，关键是你只是会用模型，还是能改模型？你只是会写提示词，还是能设计系统？你只是懂论文，还是能把论文变成稳定产品？

艾诚：作为大学老师，你给学生什么建议？

唐博：我教了十几年数据结构与算法分析，教学生一行一行写高效代码。但现在学生写的代码肯定比不上AI工具。所以我决定：第一，教会学生怎么学习新鲜事物，比如AI写的代码不好，你怎么优化它；第二，教会学生提问的能力——在有限Token下怎么解决问题；第三，教会学生拥抱变化。

艾诚：未来五年最稀缺的AI人才是什么？

唐博：模型研究员这个时代可能快过去了，基座模型能力已经趋同。最需要的是有"系统观"的工程师——能从下到上看透问题、解决中间具体问题的人。

艾诚：如果AI在金融、医疗、政务里出错了，谁负责？

唐博：一定要有边界。出错了先区分是人的问题还是模型的问题。如果是科学家让模型去干这件事，而且百分之百相信它，那科学家要承担责任。但如果科学家一开始就讲了风险，那真出错之后，负责的是那个敢让它在所有场景用的人。

艾诚：如果一家医院、一家银行要用AI，哪些环节必须保留人工复核？

唐博：可追责的地方一定要有人类复核。大模型有幻觉，写文字材料可以接受，自己改一改就行。但生成一份代表几亿资金流入流出的合同，全部让AI来做？不可能，一定要有人审核把关。不能把责任归给模型，模型是工具——汽车出车祸找驾驶员，不找汽车本身。

快问快答

Rapid Fire Q&A

艾诚：AI时代最被高估的词？

唐博：颠覆。

艾诚：最被低估的词？

唐博：效率。

艾诚：你最害怕AI行业出现什么？

唐博：只追逐短期热度，忽略底层能力。

艾诚：不用"算力"这个词，你怎么解释你在做的事？

艾诚：AI会替代程序员吗？

唐博：必然。

艾诚：给年轻工程师的建议？

唐博：找问题的能力。

艾诚：工作中最享受的时刻？

唐博：系统性能提升，而不是跑出一个Demo。

艾诚：最不喜欢的技术表达？

唐博：只讲概念、不讲代价。

艾诚：AI时代新的稀缺资源是什么？

唐博：刨根问底的能力。

艾诚：首席科学家的第一责任？

唐博：承担失败的能力。

艾诚：最想打破的误解？

唐博：算力为王。

艾诚：AI时代最重要的教育？

唐博：永葆好奇心。

艾诚：用一个词形容AI下半场？

唐博：推理。

艾诚：预见未来，你相信什么？

唐博：我相信变化。

不属于只会堆卡的人，也不属于只会讲故事的人

Not just a GPU stacker, nor merely a storyteller

艾诚：刚才我们用了近两个小时，从AI热点、Token经济、算力效率，聊到首席科学家和教育伦理。唐博最后说——相信变化。拥抱变化才是成长。

AI上半场，我们见证模型能力的爆炸；AI下半场，我们要看谁能把能力变成成本更低、体验更好、交付更稳定的智能服务。

真正的未来，不属于只会堆卡的人，也不属于只会讲故事的人，而属于那些能把复杂系统做简单、把昂贵智能做普惠、把技术创新做成产业基础设施的人。

艾诚简介

艾诚（Gloria Ai），主持人、投资人、《艾问iAsk》创始人，曾任中央电视台驻纽约财经评论员，现任《艾问人物》出品人，也担任国内外财智盛会如博鳌亚洲论坛等的常邀双语主持。艾诚是哈佛大学、北京大学和中国传媒大学的校友代表，清华大学苏世民学院业界导师，哈佛大学第一代校友（FGHA）导师，YPO世界青年总裁组织成员。

作为《艾问iAsk》创始人，艾诚一直致力于向世界讲好中国创新故事，已记录近2000位时代人物，实现百家媒体全球传播。曾获《福布斯》杂志2016年度30位30岁以下亚洲人物唯一上榜华人主持以及世界经济论坛2012年度全球杰出青年，著有《奋斗是一种信仰》、《创业的常识》、《创业不死法则》等财经书籍。

艾诚被授予家乡黄山的形象大使，因扶贫助农的女性领导力与公益心，获评全国三八红旗手。