智东西 20小时前
RSI,田渊栋交卷了!40B本地编程模型开源,MacBook Pro可跑
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

智东西

作者 | 黄菲

编辑 | 江宇

智东西 10 月 22 日报道,昨夜,前 Meta FAIR 研究总监田渊栋参与创办的 AI 初创公司 Recursive Superintelligence(以下简称 Recursive)推出首款本地编程模型 Flint,该模型主打高速推理,在英伟达 RTX Spark 上的生成速度超过150 Token/ 秒,在搭载苹果 M4 Pro 芯片的 MacBook Pro 上超过125 Token/ 秒,最高可达同类模型的2 倍。

Recursive 官宣推出 Flint 模型,图源:X

田渊栋随后在 X 平台转发了这一消息,并介绍了 Flint 的四大亮点。

田渊栋发文 Flint 亮相,图源:X

性能方面,Flint 在 Terminal-Bench 2.1、SWE-Bench Pro v2 和 SWE-Bench Verified 三项 Agent 编程基准测试中,分别取得了54.9%、89.7% 和 74.2%的成绩,表现领先于总参数量低于 500 亿的其他 MoE 模型。

Flint 在 Terminal-Bench 2.1、SWE-Bench Pro v2 和 SWE-Bench Verified 的表现,图源:Recursive

训练方面,Flint 完全从零构建,经历了分词器开发、预训练、中期训练、监督微调(SFT)和强化学习(RL)等环节。推理速度方面,Flint 最高生成速度可达同类模型的 2 倍。

值得一提的是,Recursive 仅用了 4 个月,就完成了 Flint 整套模型训练流程的搭建。

有网友在体验 Flint 后称,模型能够很好地完成自己交给它的任务,但执行时间比预期更长。此外,该网友还反馈,即使关闭思考模式,模型的回答依然过于冗长。

另一位网友则称,Flint每 Token仅激活 25 亿参数这一点最吸引他。他目前在一台配备 48GB 内存的 M5 Pro 设备上运行约 50 个 Agent,系统往往会因内存压力提前终止部分进程,算力反而还没成为瓶颈。因此,他希望 Flint 能够常驻本地内存、随时调用,接手部分原本由 Qwen 处理的日常任务,并考虑将其加入自己的模型调度系统。

Flint 的亮相,也让其背后的 AI 初创公司 Recursive 再次受到关注。

今年 5 月,Recursive 正式公开亮相,并宣布获得6.5 亿美元融资(约合人民币 43.68 亿元),公司估值达到46.5 亿美元(约合人民币 312.46 亿元)。

彼时,田渊栋在官宣加入 Recursive 时就曾提到,其将递归自我改进(Recursive Self-Improvement,RSI)作为核心研究方向,希望让 AI 系统自主开展实验、持续改进自身,进而推动科学研究自动化。

时隔约 5 个月,Recursive 交出了首款模型 Flint。Recursive 联合创始人、首席执行官、" 提示工程之父 " 理查德 · 索赫尔(Richard Socher)也在社交平台 X 上称,其团队借助自动化研究系统 Eureka Machine,从零开发了 Flint。

Flint 可以直接在用户自己的设备上运行,帮助开发者分析代码库、修复程序错误、实现新功能和编写测试。

Recursive 联合创始人兼首席执行官理查德 · 索赫尔,图源:X

目前,Flint 已采用 Apache 2.0 许可证开源。开发者可以通过 Hugging Face 获取模型权重,并借助兼容的推理工具在本地部署运行。

开源地址:

GitHub:

https://github.com/recursive-oss/rec

Hugging Face:

https://huggingface.co/stepfun-ai/Step-3.5-Flash

一、编程基准表现领先,挑战同规模 MoE 模型

Flint 采用仅解码器的混合专家(Mixture of Experts,MoE)架构,总参数量为 398 亿,每 Token 处理时约激活 25 亿参数。

与每次推理都需要调用全部模型参数的稠密模型相比,MoE 架构可以根据输入选择部分专家参与计算,从而减少单次推理需要激活的参数量。

在 Terminal-Bench 2.1、SWE-bench Pro v2、SWE-bench Verified、LiveCodeBench v6、IFBench 和 IFEval 这 6 项基准测试中,Flint BF16 版本的平均得分为80.6 分,仅次于 Qwen3.8 的84.7 分,高于 Muse Glimmer 的74.8 分、Qwen3.6 的71.7 分和 Qwen3.5 的68.9 分。

具体来看,Qwen 3.8 在 Terminal-Bench 2.1 和 LiveCodeBench v6 上分别领先 Flint 18.1 和 10 个百分点;Flint 则在 IFBench 和 IFEval 两项指令遵循测试中领先其他对比模型。

Flint 的 NVFP4 量化版本在 6 项测试中的平均得分为80.0 分,比 BF16 版本低 0.6 分;在 LiveCodeBench v6 测试中,其得分则比 BF16 版本高 0.5 个百分点。

Flint 在编程基准测试中的表现,图源:Recursive

总体来看,Flint 的编程表现可以媲美总参数量为250 亿至 400 亿的稠密模型,生成速度则是这些模型的5 倍。

在上下文长度方面,Flint 最高支持约 51.2 万 Token 的上下文,并建议开发者将实际使用长度控制在25.6 万 Token以内,以获得更好的编程效果。

不过,与参数规模更大的闭源编程模型相比,Flint 在处理复杂任务时可能需要更明确的指令。Recursive 建议开发者将复杂任务拆分为较小的子任务,以提高执行效果。

二、适配本地设备运行,推理速度最高超 150 Token/ 秒

在推理速度方面,Recursive 公布的测试数据显示,在配备 48GiB 内存的苹果 M4 Pro 设备上,Flint 40B A2B 使用 MLX 推理框架时,短上下文场景下的生成速度达到131.22 Token/ 秒,约为 Qwen3.6 35B A3B(65.55 Token/ 秒)的2 倍、Nemotron 3.5 Lightning 30B A3B(58.00 Token/ 秒)的2.3 倍,也明显快于 Muse Glimmer 30B(14.54 Token/ 秒)。

在英伟达 RTX Spark 上,Flint NVFP4 版本的生成速度达到155.82 Token/ 秒。

Recursive 公布的 Flint 推理速度,图源:Recursive

针对不同硬件,Recursive 还优化了专用计算内核。这些优化使 Flint 在 RTX Spark 上的生成速度提升 55%,且无需修改模型权重。

Recursive 还推出了自研推理引擎 rec,用于在本地运行其语言模型。

官方测试显示,在配备 48GB 内存的苹果 M4 Pro 设备上,使用 4 bit 量化模型时,rec 的 Token 生成速度达到 llama.cpp 的1.4 至 2.6 倍。

该测试覆盖了 1K 至 252K Token 的不同输入长度,每次生成 1024 Token,各组测试均重复运行 5 次,统计结果不包含提示词预填充阶段的耗时。

推理引擎 rec 与 llama.cpp 在苹果 M4 Pro 上的 Token 生成吞吐量对比,图源:GitHub

在部署方面,Flint 支持通过 SGLang、Ollama 和 LM Studio 等工具在本地运行。模型支持离线使用,开发者可以根据自身硬件条件选择合适的运行方式,减少对远程服务的依赖。

三、自动化系统参与研发,优化模型架构与推理效率

Recursive 在 Flint 的开发过程中,通过持续实验、评估和迭代优化,不断提高模型训练和推理效率。

该公司自研的自动化研究系统 Eureka Machine 能够自动提出研究方案、编写实现代码并开展实验,再根据实验结果决定下一步尝试方向。该系统还可以并行探索多条技术路线,利用此前实验结果调整后续方案,并组合不同方案中的有效改进。

其团队借助自动化研究系统 Eureka Machine,在不到 4 个月的时间内从零开发了 Flint。在研发过程中,Eureka Machine 还参与了训练数据处理、优化器选择和训练方案设计,并对模型基础设施与推理性能进行优化。

模型架构调整就是一个例子。

Recursive 最初测试的基准方案总参数量为 350 亿,每 Token 激活 30 亿参数。随后,该自动化研究系统 Eureka Machine 探索了不同的专家配置和网络宽度,最终选出总参数量约 400 亿、每 Token 激活约 25 亿参数的架构。

Recursive 认为,这一方案在其测试过的配置中,更好地兼顾了运行速度与编程能力。

模型训练完成后,该系统又继续优化模型占用的内存和推理效率。

在量化环节,Eureka Machine 尝试将模型输出层的参数精度压缩至 4 位,并加入离线蒸馏步骤,以弥补低精度处理可能造成的性能损失。最终采用 NVFP4 格式的模型,在其基准测试中的得分与 16 位精度版本相差不到 0.7 分。

Recursive 的模型训练时间优化实验经历了6 轮迭代,训练耗时从最初的141.5 秒逐步降至 77.5 秒,整体缩短约 45%。最后一轮采用递归优化方案,将训练耗时进一步压缩至 77.5 秒,较此前纪录快 2.2 秒,创下该组实验的新低。

Eureka Machine 优化模型训练耗时的实验结果,图源:Recursive

Recursive 希望将这种研发方式延伸至后续模型开发,让每一代模型的研发成果反过来提高 Eureka Machine 的研究能力,进而加快下一代模型的开发。

四、八位 AI 大牛联手创业,三位华人坐镇创始团队

Recursive 于 2026 年 5 月结束隐身,办公地位于美国旧金山和英国伦敦,其研究方向涉及自动化算法、模型训练和能够自我改进的编程 Agent。

该公司团队已有 25 人以上,其不少成员曾在 Salesforce、Uber、OpenAI、谷歌 DeepMind、谷歌 Brain 和 Meta 等企业及研究机构任职。

Recursive 的联合创始人团队共有 8 人,包括联合创始人兼首席执行官理查德 · 索赫尔(Richard Socher)、田渊栋(Yuandong Tian)、蒂姆 · 罗克特舍尔(Tim Rockt ä schel)、施天麟(Tim Shi)、乔什 · 托宾(Josh Tobin)、熊才明(Caiming Xiong)、杰夫 · 克鲁恩(Jeff Clune)和阿列克谢 · 多索维茨基(Alexey Dosovitskiy)。

Recursive Superintelligence 八位联合创始人,图源:Recursive

Recursive 联合创始人兼首席执行官理查德 · 索赫尔(Richard Socher)是 AI 领域的知名研究者和连续创业者。

他曾师从斯坦福大学教授、AI 研究者吴恩达,研究方向包括自然语言处理和深度学习,参与过 ImageNet、GloVe 等相关研究,谷歌学术引用量超过 24 万次。

他也是早期推动神经网络应用于自然语言处理的研究者之一,并因较早系统研究提示工程而被称为 " 提示工程之父 "。

索赫尔曾创办 AI 初创公司 MetaMind,该公司于 2016 年被企业软件公司 Salesforce 收购。此后,他创办了 AI 搜索公司 You.com,并曾担任 Salesforce 首席科学家兼执行副总裁。

值得一提的是,Recursive 创始团队中有三位华人。

田渊栋曾担任 Meta 基础 AI 研究团队(FAIR)的研究科学家总监,研究方向涉及强化学习、规划与效率,以及大型语言模型的理论研究。

他本科及硕士毕业于上海交通大学,2013 年获美国卡内基梅隆大学机器人研究所博士学位。博士毕业后,田渊栋于 2013 年至 2014 年在谷歌自动驾驶汽车团队担任软件工程师,随后加入 Meta FAIR 从事 AI 研究近十年,并于 2025 年离开 Meta。

Recursive 联合创始人田渊栋,图源:田渊栋个人官网

熊才明曾任企业软件公司 Salesforce AI 研究高级副总裁,长期从事 AI 研究与模型开发。加入 Salesforce 之前,他曾在 MetaMind 担任高级研究员,与索赫尔有过共事经历。

他本科及硕士毕业于华中科技大学,后于纽约州立大学布法罗分校取得计算机科学与工程博士学位,并在加州大学洛杉矶分校完成统计学博士后研究。

Recursive 联合创始人熊才明(Caiming Xiong),图源:熊才明个人网站

施天麟(Tim Shi)是清华大学姚班校友,曾在斯坦福大学人工智能实验室攻读博士学位,研究方向涉及机器学习与 AI 系统。

2017 年,他加入 OpenAI,参与早期 AI Agent 研究。随后,他联合创办企业 AI 公司 Cresta,并担任联合创始人兼首席技术官,推动 AI 技术在企业销售和客服场景中的应用。此后,他参与创办 Recursive Superintelligence。

Recursive 联合创始人施天麟(Tim Shi),图源:施天麟个人网站

其他联合创始人也拥有不同的研究和创业经历。蒂姆 · 罗克特舍尔是伦敦大学学院教授,曾在谷歌 DeepMind 从事 AI 研究;杰夫 · 克鲁恩长期研究开放式算法和自我改进 AI。

结语:速度与实用性兼得,本地编程模型研发提速

Flint 的推出体现了本地编程模型在代码生成能力之外,对运行效率与部署体验的重视。

模型在本地运行,可以减少对云端算力的依赖,也有助于降低代码和数据向远程服务器传输的需求,也让开发者拥有更灵活的使用方式。

Recursive 将混合专家架构与自动化研发系统 Eureka Machine 结合,既优化了模型的本地运行效率,也探索了以自动化系统加快模型研发的新路径。

来源:Recursive

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

编程 macbook pro 英伟达 spark
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论