DeepSeek-AI 团队梁文锋及其同事 17 日在《自然》杂志上发表了开源人工智能(AI)模型 DeepSeek-R1 所采用的大规模推理模型训练方法。研究表明,大语言模型(LLM)的推理能力可通过纯强化学习来提升,从而减少增强性能所需的人类输入工作量。训练出的模型在数学、编程竞赛和 STEM 领域研究生水平问题等任务上,比传统训练的 LLM 表现更好。
DeepSeek-R1 包含一个在人类监督下的深入训练阶段,以优化推理过程。梁文锋团队报告称,该模型使用了强化学习而非人类示例来开发推理步骤,减少了训练成本和复杂性。DeepSeek-R1 在被展示优质的问题解决案例后,会获得一个模板来产生推理过程,即这一模型通过解决问题获得奖励,从而强化学习效果。团队总结说,未来研究可以聚焦优化奖励过程,以确保推理和任务结果更可靠。
在评估 AI 表现的数学基准测试中,DeepSeek-R1-Zero 和 DeepSeek-R1 得分分别为 77.9% 和 79.8%,在编程竞赛及研究生水平的生物学、物理和化学问题上同样表现优异。
来源:科技日报,记者:张梦然
登录后才可以发布评论哦
打开小程序可以发布评论哦