光明日报 昨天
副局长手搓成本不到30元的防汛小程序,为何网友认为花费了上千元?
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_font3.html

 

副局长自费购买 10 亿 token,花了将近一个月时间,手搓防汛小程序的新闻,这几天保持居高不下的热度。

不少人在评论区猜测,10 亿 token 究竟是多少钱?有人说差不多几百元,甚至还有人说要上万。直到后来,这位副局长自己公开了实际花费,只有 20 多块钱。他购买了一个包年套餐,200 多元,折合到一个月,差不多是这个费用。

真相大白了,但是这个前后价差的对比,其实很值得关注。这说明,在 token 消费领域,目前还没有形成公众认知的普遍的标准。

此前网友的猜测,也是有真凭实据的。从公开的信息来看,比如某通讯运营商的套餐,差不多每个月 10 块钱,但是只能买 1000 万 token,想达到 10 亿这个规模,这之间差了 100 倍,也就是说要花 1000 块钱。

所以说到这,忍不住要感叹一句:这位局长,您真的很会选套餐。但是,对大部分人来说,面对众多的 token 套餐,其实是不知道怎么选的。

现在,全市场有 50 多个主流的 AI 模型服务商,但是他们的价格、能力可以说是参差不齐。

" 同样的代码任务,别人的 Token 账单怎么比我便宜那么多?"" 服务商是不是偷偷给我换模型了?" 不少开发者在使用时有这样的疑问。

有媒体调查发现,解 " 鸡兔同笼 " 这一道题,使用同一个模型,在不同平台上,消耗的 token 数量可以达到 10 倍的差距。所以,如果没有选择好服务商,token 消费很有可能就变成一个吞金兽。

这背后的问题就是,token 到底值多少钱?这个市场该怎么定价?

此前,中国信息通信研究院联合包括天翼云、华为云、清程极智等十余家企业召开研讨会,探讨怎么在市场中,提供可信的 token 云服务。

因为人们发现,token 消费就像是一个黑盒。比如,其中一个标准叫做 " 缓存命中率 ",它与成本计算关系非常大。

调用大模型时,最消耗 token 的往往是多轮对话。因为 ai 会把之前所有的对话从头读一遍,账单就像滚雪球一样。

" 缓存命中 " 就是拿之前计算过的结果直接用,不用针对每个对话重复计算了,相当于省钱了。

但是有些服务商明明命中了 90%,但他跟你说只命中 10%,这就是能从中赚差价的空间。

清华大学翟季冬教授团队和清程极智对主流服务商做了一个测评,就发现各服务商的表现相差很大。因此,打破信息差,引入规范和标准,就非常关键。

不过,未来更关键的,其实还是通过技术迭代,将 token 价格打下来。就像现在,人们似乎对自己的流量套餐是 30g 还是 100g,已经不介意了,因为流量的价格降下来了。而现在的 token,就像是互联网刚兴起那个阶段的流量。

未来,只有让 token 价格足够便宜,它才会真正像水电气一样,走进千家万户。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论