钛媒体 App 10 月 13 日,字节跳动 Seed 近日通过内部邮件宣布成立 Seed Model-Alignment&Preparedness 部门,由严林负责,汇报给 Seed 负责人吴永辉;原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。新部门聚焦模型安全与对齐,核心是使模型行为符合人类意图与安全约束,重点提升 Agent Model 安全能力,防范 CBRN 等前沿风险。 工作覆盖模型规范、安全评估、对齐训练、防护系统与风险监控,并对接外部研究与第三方评测。Seed 称安全与对齐已成模型规模化应用的核心能力。(广角观察)


登录后才可以发布评论哦
打开小程序可以发布评论哦