第一财经 4小时前
姚顺雨之后,又一名前OpenAI研究员加入腾讯
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

去年姚顺雨加入腾讯后,又一名 OpenAI 前研究员加入腾讯。

据腾讯相关负责人介绍,OpenAI 前研究员 Yonglong Tian(田永龙)已于近期加入腾讯大语言模型部,后续将参与 VLM(视觉语言模型)相关研发。

公开资料显示,田永龙毕业于清华大学,曾任职于谷歌 DeepMind、OpenAI,主要研究方向包括计算机视觉、视觉表征学习及生成式模型。田永龙曾与现任腾讯 CEO/ 总裁办公室首席 AI 科学家姚顺雨共事。

将田永龙招入麾下,是腾讯扩充 AI 人才的最新动作。去年 12 月姚顺雨加入腾讯后,已给腾讯的 AI 研发带来改变。

姚顺雨推动了模型与 C 端应用元宝的 co-design(联合设计),混元也从非常在意外部榜单排名变成以用户体验为目标。数据层面,以往大模型训练数据多但不够高质量,姚顺雨在 HY3 上线前砍掉了很多对模型训练无用的数据,着重提升数据质量。

腾讯高级执行副总裁、云与智慧产业事业群 CEO 汤道生评价称,姚顺雨做了很多化繁为简的工作,HY3 相比过去也有很大进步。

从模型迭代看,姚顺雨于今年 4 月交出加入腾讯后的第一份答卷。腾讯混元 4 月发布 Hy3 preview 语言模型并将该模型开源。姚顺雨说,这是混元大模型重建的第一步。该模型是一个快慢思考融合的混合专家模型,总参数 295B(B 为 10 亿),激活参数 21B,最大支持 256K 上下文长度。

近日混元则发布了 HY3,这个快慢思考融合的模型采用 MoE 架构,总参数 295B、激活参数 21B,支持 256K 上下文长度。据介绍,Hy3 延续了能力增长曲线,通过进一步提升后训练的算力规模及数据质量和多样性,在各类任务上表现比 Hy3 preview 更好,以较小尺寸首次达到比肩国内外大尺寸旗舰模型的效果。

混元还介绍,在基于真实日志的评测中,Hy3 常识错误率较 preview 版本下降了一半,幻觉率下降了超一半。在其内部评估中,Hy3 在综合办公与生活服务两大场景上超过 GLM 5.1 等国产模型。

混元近期还透露了 HY3 Preview 上线后的数据,称日均 token 消耗量增加了 20 倍,WorkBuddy 上自主选择 Hy3 preview 的用户数增长了 6 倍。

( 本文来自第一财经 )

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

腾讯 田永 ceo 混元大模型 谷歌
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论