新浪财经 14小时前
PPIO联合创始人姚欣:通过软件降低token成本的空间极大
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

(来源:每日经济新闻)

在 "2026 世界人工智能大会 " 期间,派想未来集团(以下简称 PPIO)举办了媒体沟通会,PPIO 联合创始人兼 CEO 姚欣在沟通会上提出了 Agent(智能体)时代的核心公式,即 Agent 生产力 =Token 智能密度 × Agent Loop(智能体循环)时长。

其中,Token 智能密度决定了 Agent 每一步决策的质量上限,Agent Loop 时长决定了 Agent 能持续运行多久、完成多复杂的任务。

对于 token(词元)消耗,姚欣表示 :" 今年二三月的时候,token 消耗的增长曲线非常陡峭,因为存在大量的尝鲜式应用。但尝鲜一波降温后,现在进入到了稳健的增长阶段,每个月可以看到大约 10% 到 20% 的持续增长,全年大概有三四倍的增幅,并且已经变成了真正生产力的工具。"

姚欣补充,PPIO 的 token 消耗曲线与企业付费的真实曲线高度吻合。由于 PPIO 是 to B(面向企业)公司,平台上所有 token 都是付费的,这不是 C 端(消费者端)用户免费尝鲜的曲线,而是企业付费的真实曲线。

此前,token 成本的下降很大程度上依靠硬件性能的提升,比如从英伟达 A100、H100 到 B100,每一代更新性能都能大幅提升。

不过,在姚欣看来,硬件侧的变化正在放缓,而软件领域的提升还在快速发展。芯片领域,AI 芯片从制程微缩到堆叠;一台机器的算力密度不够,开始搞超节点以及 Scale out(横向拓展)。

姚欣认为:" 硬件的提升速度,未来三年会逐渐放缓,但软件的提升速度还在快速发展之中。公司当下最重要的优化方向以及在推理侧最重要的成本支出,并非 GPU(图形处理器),而是内存和硬盘。因为智能体的使用追求记忆,导致上下文变得很长。这么多上下文需要保存,先存放在显存,显存不够放内存,内存不够放固态硬盘。"

那么,如何解决存储的问题呢?姚欣认为:" 除了硬件提升,系统架构也是能够实现指数级飞跃的。未来三五年,(系统架构)将会有非常巨大的发展空间。"

也就是说,未来硬件的提升速度将放缓,而软件的提升将是巨大的,从而导致 token 成本快速下滑。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

固态硬盘 英伟达 创始人 世界人工智能大会 芯片
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论