外媒 The Information 8 月 5 日报道,字节跳动创始人张一鸣在 7 月内部会议向 Seed 大模型团队表态,字节拒绝把外部模型蒸馏作为 AI 能力提升捷径,可以接受短期落后国内同行。

模型蒸馏能够低成本快速拉高模型效果,但存在知识产权风险,也容易弱化底层自研能力。
报道援引知情人士称,该决策一部分考量来自 TikTok 长期面对的美国政府复杂监管局面。
虽然张一鸣已卸任字节日常管理,但深度参与 Seed 大模型技术方向,他认为靠蒸馏换来榜单排名不利于长期技术突破。
字节内部已对蒸馏外部模型作出约束,自家模型之间的轻量化蒸馏不受限制。


登录后才可以发布评论哦
打开小程序可以发布评论哦