量子位 昨天
GPT-5.6自己优化自己实锤了,新的左脚踩右脚已经出现
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

OpenAI 的 RSI 焚诀,它来了!

就在老黄开推摇旗呐喊、呼吁开放权重之后,OpenAI 也突然 Open 了起来~

在最新技术报告中,他们老实交代了一部分 RSI(AI 递归自进化)心法:

让 GPT-5.6 左脚踩右脚,开始自己动手改造供自己运行的系统。

据报告透露,GPT-5.6 已经被投入 OpenAI 的真实生产环境,用来分析线上流量、调整请求路由,甚至亲自下场改写底层 Kernel、优化推测解码模型。

一套小连招下来,OpenAI 的端到端服务成本降低了20%,Token 生成效率也提升了15% 以上

而且,值得一提的是,在披露这套工程的五名作者里,还有大名鼎鼎的 Triton 之父Philippe Tillet

2021 年,OpenAI 发布 Triton 1.0 时,目标还是让不懂 CUDA 的人也能写出接近专家水平的 GPU 程序。

五年后,GPT-5.6 已经开始用 Triton 改写自己跑在 GPU 上的底层代码。

从教人类写 Kernel,到让模型给自己改 Kernel,味儿确实越来越像 RSI 了。

(你别说,也难怪翁荔回老东家。搞 RSI,还得在 OpenAI 呐)

RSI 焚决,先从底层优化开始

这件事之所以值得关注,就在于它已经有了几分 RSI 的味道。

所谓 RSI,也就是递归式自我改进,说白了就是:

让 AI 进入一个 " 改进 AI" 的反馈回路——这一轮能力变强之后,再反过来加速下一轮升级。

当然,GPT-5.6 现在还远没有完全实现 GPT 自动训练下一代 GPT 的 RSI。

但它已经开始参与优化自己的运行环境:模型不仅是被工程师部署和调用的工具,也逐渐变成了改造模型系统本身的工程师。

具体来说,它干了四件事。

1、分析 OpenAI 真实的生产流量。

GPT-5.6 会寻找不同机器和服务节点之间的负载不均,并测试新的路由策略,把请求分配到更合适的位置。

2、重写和优化生产 Kernel。

GPT-5.6 会深入模型的 forward pass,寻找可以提前计算、省略或并行执行的部分,再通过 Codex 改写生产环境中的 Triton 和 Gluon Kernel。

3、优化自己的推测解码系统。

GPT-5.6 为自己的 draft model 设计方案,并自动运行数百次实验,测试不同的模型大小、结构和特征。

在训练过程中,它还会持续监控实验,并在发生硬件故障或训练不稳定时主动介入。

4、针对不同任务,自己寻找最优部署参数。

面对短对话、长上下文、代码任务等不同负载,GPT-5.6 会自动搜索 batching、sharding 和 KV Cache 管理的更优组合。

四件事连起来,GPT-5.6 参与的已经不再是某个孤立的代码任务,而是一条真实的工程反馈回路:

观察生产系统、寻找瓶颈、提出方案、运行实验、处理故障,再把有效改进部署回承载自己运行的系统。

人类依旧站在圈里

当然,RSI 也没那么快,人类依旧站在圈里,也就是 human in the loop。

GPT-5.6 虽然开始参与改造自己,但优化目标、工具权限、评测指标,以及代码能否进入生产环境,仍然由人类决定。

而且,模型内部省完了,模型外面还有大量重复开销。

比如,ChatGPT Work 和 Codex 执行复杂任务时,往往要不断经历:

模型思考—调用工具—读取结果—继续思考。

一次用户请求,背后可能循环十几轮甚至几十轮。

假如一个任务需要调用模型 30 次,每次只额外浪费 1 秒,累计起来就是 30 秒。

上下文、工具说明和历史结果也会在每轮循环中反复传输和计算。

为此,OpenAI 搭建了一层由 Rust 编写的Agent Harness,连接模型、工具和用户环境,专门减少 Agent 循环里的重复工作。

这里最关键的有两项优化。

1、延迟发现:别一上来就把所有工具塞给模型

今天的 Agent 可以使用大量工具、Skill、插件和自定义 MCP,但单个任务通常只需要其中很少一部分。

OpenAI 不再一开始就把所有说明书塞进上下文,而是在真正需要时,才向模型展示对应工具。

工具返回的内容默认也被限制在 1 万 Token 以内,需要更多时,再由模型主动申请。

2、只追加、不回写:让 Prompt 缓存一直有效

Prompt 缓存可以复用已经计算过的上下文前缀,但前提是这段前缀必须原样不动。

因此,新的消息和工具结果只会接在上下文末尾,不再插回旧内容;工具保持固定顺序,审批和权限设置则留到执行阶段处理。

这样一来,GPU 可以直接复用此前的计算,只处理本轮新增的内容。

可以说,一次循环可能只省一点,但当成千上万只 Agent 每天循环几十轮,省下来的就不再是一点。

所以,这轮效率优化其实来自两股力量:一边是 GPT-5.6 开始帮助优化模型;另一边,是人类继续替模型清理运行环境里的重复劳动。

人类依旧站在圈里,只是圈里的 AI 已经开始主动拿起扳手了。

AI 越好用,用得越多

除了让 GPT-5.6 参与优化自身,OpenAI 还在报告中透露了另一个细节:

在 GPT-5.6 内部测试期间,每名活跃研究人员的日均输出 Token,超过了 GPT-5.5 时期峰值的两倍。

过去半年,OpenAI 用于内部编程推理的研究算力占比增长了100 倍,内部 Agent Token 用量也增长了约22 倍

这组数字当然不能直接证明,OpenAI 的研究速度也提升了 100 倍。

但它至少说明了一件事:

AI 一旦变得更便宜、更好用,它的用量不仅不会减少,反而会不断增加。

参考链接

[ 1 ] https://openai.com/index/gpt-5-6-frontier-intelligence-efficiency/

[ 2 ] https://deploymentsafety.openai.com/gpt-5-6/introduction

一键三连「点赞」「转发」「小心心」

欢迎在评论区留下你的想法!

—    —

点亮星标

科技前沿进展每日见

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论