驱动中国 8小时前
张一鸣罕见定调:字节跳动拒绝“蒸馏捷径”,宁舍短期也要走自研路
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

字节跳动 Seed 团队近日召开全员大会,张一鸣在会上做出了一次少见的公开表态——公司不会把模型蒸馏当作提升 AI 能力的捷径,宁愿牺牲短期收益,也要坚持长期技术路线。

这番话的背景并不轻松。字节跳动是国内头部 AI 公司中,唯一一家大语言模型几乎全部采用自研专有模型的厂商。然而,这种 " 全自研 " 策略也让字节在模型迭代速度上承受了不小的压力。业内普遍认为,字节的大语言模型之所以在部分场景下落后于竞争对手,恰恰与它拒绝使用蒸馏技术有关。

所谓蒸馏,是一种让新模型直接学习前沿模型推理步骤的训练方法,能够大幅节省训练时间和算力开销。在国内竞品纷纷借助开源模型快速迭代的当下,蒸馏几乎成了行业标配。字节内部关于 " 要不要转向蒸馏 " 的争论也由来已久——一方认为应拥抱行业趋势,用蒸馏加速追赶;另一方则坚持自研路线,认为长期来看,专有模型才能构筑真正的技术壁垒。

张一鸣此次的表态,等于给这场内部争论画上了句号:不走捷径。

这个选择背后的逻辑不难理解。蒸馏虽然高效,但本质上是在别人的模型能力上做 " 搬运 ",长期依赖可能削弱自身的底层创新能力。而字节跳动选择全自研,意味着它押注的是更远的未来——用更慢的速度、更高的成本,换取对核心技术的完全掌控。

当然,代价也是真实的。在开源模型日新月异、竞争对手快速追赶的格局下," 慢一步 " 可能意味着市场份额和用户心智的流失。字节能否扛住这个压力,用时间换空间,最终让自研路线跑赢蒸馏的 " 快车道 ",将是接下来最值得关注的看点。

一句话概括:张一鸣用一次罕见表态,把字节跳动的 AI 战略从 " 能不能快 " 拉回到了 " 该不该快 " 的根本问题上。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

字节跳动 张一鸣 ai 开源 句号
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论