环球市场播报 8小时前
字节跳动创始人表态:不对AI模型进行“蒸馏”
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

据报道,字节跳动不会诉诸 " 蒸馏 " 技术作为提升其 AI 模型能力的捷径,即使这意味着公司目前处于落后位置,创始人张一鸣在上月的一次员工会议上如此表示。此次会议是字节跳动 AI 团队(内部代号 "Seed")的一次全体会议。

张一鸣此前很少在 Seed 团队的会议上发言,但在其他领导层讨论了公司为何不利用蒸馏来取得领先之后,他打破了沉默。据员工称,张一鸣表示,字节跳动 " 应该愿意为更长远的目标牺牲一些短期利益 ",但他没有详细说明长期目标是什么。

据员工透露,字节跳动不愿使用蒸馏技术,被认为是其大型语言模型落后于其他竞品的原因之一。相比之下,字节跳动被公认为全球 AI 视频生成模型的领导者,其 Seedance 2.0 模型今年早些时候因能生成超逼真视频而引发轰动。

报道称,字节跳动在中国 AI 领域日益成为一个异类,部分原因在于这家社交媒体巨头是中国唯一一家几乎全部采用专有模型的大型 AI 公司,而其同行则专注于开源模型。

字节跳动的旗舰大型语言模型并不总是出现在全球主要的大模型排行榜上,而排行榜是外界追踪模型能力的常见窗口。客户主要通过公司的云计算平台访问字节跳动的模型,该平台在中国的市场份额小于行业领导者阿里巴巴、华为和腾讯。这使得非客户难以评估字节跳动模型的实际水平。

字节跳动最新的大模型 Seed 2.1 Pro 并未出现在最受关注的大模型竞技台 Artificial Analysis 上。该模型在 Arena AI 的 Web 开发编码排行榜上排名第 19 位,远低于其他中国模型。

据字节跳动员工称,在字节跳动 Seed 团队内部,关于公司是否应该转向蒸馏技术的争论长期存在。

今年,国内竞争对手开源模型的快速进步给字节跳动带来了更大压力。据员工称,每当一个新的强大的中国开源模型发布,字节跳动内部关于蒸馏的争论就会升温。

平心而论,美国的开发者也肯定了中国 AI 公司在改进模型方面自身取得的技术进步。例如,DeepSeek 因其在模型训练和推理过程中大幅降低内存需求的架构创新而受到广泛认可。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

ai 张一鸣 字节跳动 创始人 开源
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论