智猩猩 AI 整理
论文作者投稿
Agent 调用一个 Skill,发现引用的脚本不在仓库里;换一次对话,又遇到同样的问题。即使临时修好了,为什么这样改、哪些方案已经失败,也常常留在上一段聊天中。
Skill 越用越多,维护经验却未必能留下来。
腾讯微信团队提出了一个持续进化技能的 Harness 框架SkillHone,希望让这些经验随着技能一起积累。它把故障证据、候选修改、测试结果和接受或拒绝修改的原因关联起来,让后续 Agent 接着已有判断继续改进。
相关论文已发表于 EMNLP 2026 Industry Track。
01
把一次故障修成可审阅的改进
Skill 是 Agent 可按需加载的能力包,除了 SKILL.md 中的说明,还可能包括脚本、参考资料和资源文件。实际故障也会发生在这些文件中。
SkillHone 把完整 Skill 仓库作为修改对象:说明过时可以更新,脚本损坏可以修复,引用缺失也可以补齐。
易用性体现在日常维护的入口。完成安装、模型配置并让 Agent 加载相关 Skill 后,用户继续原来的任务即可;Agent 遇到可复现故障时,按已配置策略记录 Issue 和回归测试,进入修复队列。相比每次手动发起一轮技能优化,维护流程可以融入日常工作。
DeepSeek Harness 在隔离分支上修复并运行关联测试,返回本地 PR。
用户可在工作台查看文件改动、运行记录和测试结果。这里的 " 无感 " 指问题发现与修复触发融入原有任务;默认仍需审阅合并,首次配置也需完成。
项目提供了 Phoenix tracing Skill 的公开复现案例:索引指向四份未随包发布的文档,Agent 因而读不到承诺的指导。读者可以沿着公开 Issue、已合并修复和固定版本样例,检查问题与修复过程。
02
让下一次优化知道
上一次为什么这样改
版本差异记录文件改了什么,决策历史还保留问题诊断、候选方案、评估证据和处理结果。遇到新故障时,后续 Agent 可以检查相似方案是否试过,以及当时为什么保留或否决它。
优化侧修改技能,只接收脱敏反馈;评估侧查看测试目标、验证器与执行轨迹,但不能修改技能。这样的权限分离,使优化过程能利用失败反馈,同时限制直接读取答案来改写技能。
图 1 SkillHone 方法框架(原论文图 2)
03
公开基准与内部场景的结果
论文使用 GAIA 纯文本验证子集和 WebWalkerQA 英文集评测。表 1 汇总平均准确率;商业检索基线使用托管检索,其余方法运行于无预集成搜索工具的开放网络设置,结果仅适用于论文配置。
表 1 主要结果(平均准确率,%)
表 2 采用相同执行模型进行消融。移除决策历史后,两项准确率分别下降 13.4 和 10.9 个百分点。
表 2 消融实验(准确率,%)
内部工具分析实验覆盖七个场景,相比初始技能,六个场景改善、一个持平,平均提高 18.8 个百分点。
与从冻结评估集启动的能力优化流程相比,SkillHone 的日常维护模式可以直接从真实故障开始,无需先造 Benchmark;需要衡量更广泛能力时,再启用独立评估流程。
Codex、Claude Code、Cursor 等可调用 CLI 的 Agent 可以接入,修复结果与判断依据会留给下一次工作。
关注 + 星标,获取 AI 前沿进展与开源一线动态


登录后才可以发布评论哦
打开小程序可以发布评论哦