8 月 7 日消息，字节跳动正在讨论训练一个参数规模超 5 万亿的大模型，这是目前国内已知参数规模最大的模型，但该计划仍处于早期阶段，并不代表模型最终一定会发布。

新模型由 Seed Foundation 负责人项亮主导，与大语言模型预训练数据负责人沈科合作推进。为此，Seed 团队正重新梳理组织架构，划分职责并分配资源。

项亮本科毕业于中国科学技术大学，博士就读于中科院自动化所，2016 年加入字节跳动，曾负责机器学习中台 AML 团队，后调任豆包大模型 Foundation 团队负责人。沈科 2018 年清华大学毕业后加入字节跳动，现主要负责 LLM 预训练数据工作。

字节跳动讨论推进超 5 万亿参数模型，部分原因在于今年发布的 Seed 2.0 语言模型市场反响较为有限。Seed 团队认为，与其在现有参数规模上持续追赶，不如将参数量一次提升至同行数倍，以争取技术领先位置。

两周前，字节跳动创始人张一鸣与 Seed 负责人吴永辉共同召开 Seed 全员会议。张一鸣明确表示，过去几年字节已在 AI 方向投入大量资源，未来还将继续加大投入。

他提出三点意见：第一，训练大模型本就是高难度任务，团队无需过度焦虑；短期内可接受模型落后于行业，目标应是追求智能上限，力争 Seed 模型能力跻身世界第一梯队。第二，AI Coding 是当前关键应用方向，需整合火山引擎、飞书和豆包资源，在算力与数据上构筑优势；但编程仅是热点之一，不应局限于此，需关注更广阔机会。第三，视频生成模型 Seedance 具有市场独特性与技术领先性，鼓励 Seed 开发具备自身特色而非追随既有路线的模型。

张一鸣还明确反对模型蒸馏路径，指出蒸馏虽能短期提升表现，但本质是复制已有能力，难以实现真正超越；他主张从底层构建 AGI 壁垒，即使因此导致技术阶段性落后于国内竞争对手，也不采用蒸馏这一捷径。

免责声明：本文内容由开放的智能模型自动生成，仅供参考。