云头条 昨天
字节:筹划训练超 5 万亿参数模型
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

2026 年 8 月 6 日,《晚点 LatePost》报道,字节跳动正在讨论训练一个参数规模超 5 万亿的模型,是目前国内已知参数规模最大的模型。

不过该计划仍处于早期阶段,并不代表模型最终一定会发布。

新模型将由 Seed Foundation 负责人项亮主导,与大语言模型预训练数据负责人沈科合作。

为此,Seed 正在重新梳理组织,划分职责,分配资源。

就在两周前,字节跳动创始人张一鸣与 Seed 负责人吴永辉共同召开了一场 Seed 全员会(All Hands)。

久未露面的张一鸣也表达了自己对 seed 的支持。

张一鸣在会上安抚了 Seed 的成员。

以下为张一鸣观点。

训大模型本就是一件很难的事,团队不必过度焦虑。

明确一段时间内可接受模型落后于行业,希望大家以追求智能上限为目标,期待 Seed 模型能力能跻身世界第一梯队。

认可编程(Coding)是当前的关键方向,所以要将火山引擎、飞书和豆包的资源整合到一起,只有这样才能构筑在算力和数据上的优势。

也提醒,编程只是眼下的热点之一,不应该完全被它牵着走,编程之外还有更多更大的机会。

表扬了 Seedance,认为这个模型在市场上很特别,也有领先的技术优势。相比追随其它领先模型的既有路线,他更鼓励 Seed 做出有自己特色的模型。

还谈到了自己对模型蒸馏的看法。

反对蒸馏,认为蒸馏能在短期内改善模型表现,但本质上仍是在复制 Claude 已有的能力。沿着这条路走,最多只能不断逼近对方,很难真正实现超越。

希望 Seed 可以从更底层的维度去构建自己在 AGI 上的壁垒。

过去几年,字节已经在 AI 方向投入了很多;未来,还会投入更多。

云头条声明:如以上内容有误或侵犯到你公司、机构、单位或个人权益,请联系我们说明理由,我们会配合,无条件删除处理。

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

张一鸣 字节跳动 创始人
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论