钛媒体 App 8 月 14 日消息,字节跳动 Seed 团队发布并开源了全模态 PyTorch 原生训练框架—— VeOmni。据介绍,VeOmni 采用以模型为中心的分布式训练方案,可将复杂的分布式并行逻辑与模型计算解耦,为全模态模型组合设置高效的并行训练方案。这一方式可大幅降低工程开销,提升训练效率和扩展性,将数周的工程开发时间缩短至几天。(广角观察)
钛媒体 App 8 月 14 日消息,字节跳动 Seed 团队发布并开源了全模态 PyTorch 原生训练框架—— VeOmni。据介绍,VeOmni 采用以模型为中心的分布式训练方案,可将复杂的分布式并行逻辑与模型计算解耦,为全模态模型组合设置高效的并行训练方案。这一方式可大幅降低工程开销,提升训练效率和扩展性,将数周的工程开发时间缩短至几天。(广角观察)
登录后才可以发布评论哦
打开小程序可以发布评论哦