36 氪获悉,近日,人工智能企业彩云科技宣布其基础模型算法团队,在全球开源 AI 技术竞速项目 NanoGPT Speedrun 中,连续两次刷新大模型训练速度世界纪录,将达标训练时间压缩至 1 分 16 秒。相关代码已正式并入官方开源仓库。据了解,两项纪录是彩云科技团队在模型架构上的两项原创性创新—— DCMHA(可动态组合多头注意力)和 MUDD(多路动态稠密连接),分别于 2024 年和 2025 年发表于国际机器学习顶级会议 ICML,并均入选口头报告。

36 氪获悉,近日,人工智能企业彩云科技宣布其基础模型算法团队,在全球开源 AI 技术竞速项目 NanoGPT Speedrun 中,连续两次刷新大模型训练速度世界纪录,将达标训练时间压缩至 1 分 16 秒。相关代码已正式并入官方开源仓库。据了解,两项纪录是彩云科技团队在模型架构上的两项原创性创新—— DCMHA(可动态组合多头注意力)和 MUDD(多路动态稠密连接),分别于 2024 年和 2025 年发表于国际机器学习顶级会议 ICML,并均入选口头报告。
登录后才可以发布评论哦
打开小程序可以发布评论哦