RSI，田渊栋交卷了！40B本地编程模型开源，MacBook Pro可跑

智东西
作者 黄菲
编辑 江宇

智东西10月22日报道，昨夜，前Meta FAIR研究总监田渊栋参与创办的AI初创公司Recursive Superintelligence（以下简称Recursive）推出首款本地编程模型Flint，该模型主打高速推理，在英伟达RTX Spark上的生成速度超过150 Token/秒，在搭载苹果M4 Pro芯片的MacBook Pro上超过125 Token/秒，最高可达同类模型的2倍。

▲Recursive官宣推出Flint模型，图源：X

田渊栋随后在X平台转发了这一消息，并介绍了Flint的四大亮点。

▲田渊栋发文Flint亮相，图源：X

性能方面，Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified三项Agent编程基准测试中，分别取得了54.9%、89.7%和74.2%的成绩，表现领先于总参数量低于500亿的其他MoE模型。

▲Flint在Terminal-Bench 2.1、SWE-Bench Pro v2和SWE-Bench Verified的表现，图源：Recursive

训练方面，Flint完全从零构建，经历了分词器开发、预训练、中期训练、监督微调（SFT）和强化学习（RL）等环节。推理速度方面，Flint最高生成速度可达同类模型的2倍。

值得一提的是，Recursive仅用了4个月，就完成了Flint整套模型训练流程的搭建。

有网友在体验Flint后称，模型能够很好地完成自己交给它的任务，但执行时间比预期更长。此外，该网友还反馈，即使关闭思考模式，模型的回答依然过于冗长。

另一位网友则称，Flint每Token仅激活25亿参数这一点最吸引他。他目前在一台配备48GB内存的M5 Pro设备上运行约50个Agent，系统往往会因内存压力提前终止部分进程，算力反而还没成为瓶颈。因此，他希望Flint能够常驻本地内存、随时调用，接手部分原本由Qwen处理的日常任务，并考虑将其加入自己的模型调度系统。

Flint的亮相，也让其背后的AI初创公司Recursive再次受到关注。

今年5月，Recursive正式公开亮相，并宣布获得6.5亿美元融资（约合人民币43.68亿元），公司估值达到46.5亿美元（约合人民币312.46亿元）。

彼时，田渊栋在官宣加入Recursive时就曾提到，其将递归自我改进（Recursive Self-Improvement，RSI）作为核心研究方向，希望让AI系统自主开展实验、持续改进自身，进而推动科学研究自动化。

时隔约5个月，Recursive交出了首款模型Flint。Recursive联合创始人、首席执行官、“提示工程之父”理查德·索赫尔（Richard Socher）也在社交平台X上称，其团队借助自动化研究系统Eureka Machine，从零开发了Flint。

Flint可以直接在用户自己的设备上运行，帮助开发者分析代码库、修复程序错误、实现新功能和编写测试。

▲Recursive联合创始人兼首席执行官理查德·索赫尔，图源：X

目前，Flint已采用Apache 2.0许可证开源。开发者可以通过Hugging Face获取模型权重，并借助兼容的推理工具在本地部署运行。

开源地址：

GitHub：

https://github.com/recursive-oss/rec

Hugging Face：

https://huggingface.co/stepfun-ai/Step-3.5-Flash

一、编程基准表现领先，挑战同规模MoE模型

Flint采用仅解码器的混合专家（Mixture of Experts，MoE）架构，总参数量为398亿，每Token处理时约激活25亿参数。

与每次推理都需要调用全部模型参数的稠密模型相比，MoE架构可以根据输入选择部分专家参与计算，从而减少单次推理需要激活的参数量。

在Terminal-Bench 2.1、SWE-bench Pro v2、SWE-bench Verified、LiveCodeBench v6、IFBench和IFEval这6项基准测试中，Flint BF16版本的平均得分为80.6分，仅次于Qwen3.8的84.7分，高于Muse Glimmer的74.8分、Qwen3.6的71.7分和Qwen3.5的68.9分。

具体来看，Qwen 3.8在Terminal-Bench 2.1和LiveCodeBench v6上分别领先Flint 18.1和10个百分点；Flint则在IFBench和IFEval两项指令遵循测试中领先其他对比模型。

Flint的NVFP4量化版本在6项测试中的平均得分为80.0分，比BF16版本低0.6分；在LiveCodeBench v6测试中，其得分则比BF16版本高0.5个百分点。

▲Flint在编程基准测试中的表现，图源：Recursive

总体来看，Flint的编程表现可以媲美总参数量为250亿至400亿的稠密模型，生成速度则是这些模型的5倍。

在上下文长度方面，Flint最高支持约51.2万Token的上下文，并建议开发者将实际使用长度控制在25.6万Token以内，以获得更好的编程效果。

不过，与参数规模更大的闭源编程模型相比，Flint在处理复杂任务时可能需要更明确的指令。Recursive建议开发者将复杂任务拆分为较小的子任务，以提高执行效果。

二、适配本地设备运行，推理速度最高超150 Token/秒

在推理速度方面，Recursive公布的测试数据显示，在配备48GiB内存的苹果M4 Pro设备上，Flint 40B A2B使用MLX推理框架时，短上下文场景下的生成速度达到131.22 Token/秒，约为Qwen3.6 35B A3B（65.55 Token/秒）的2倍、Nemotron 3.5 Lightning 30B A3B（58.00 Token/秒）的2.3倍，也明显快于Muse Glimmer 30B（14.54 Token/秒）。

在英伟达RTX Spark上，Flint NVFP4版本的生成速度达到155.82 Token/秒。

▲Recursive公布的Flint推理速度，图源：Recursive

针对不同硬件，Recursive还优化了专用计算内核。这些优化使Flint在RTX Spark上的生成速度提升55%，且无需修改模型权重。

Recursive还推出了自研推理引擎rec，用于在本地运行其语言模型。

官方测试显示，在配备48GB内存的苹果M4 Pro设备上，使用4 bit量化模型时，rec的Token生成速度达到llama.cpp的1.4至2.6倍。

该测试覆盖了1K至252K Token的不同输入长度，每次生成1024 Token，各组测试均重复运行5次，统计结果不包含提示词预填充阶段的耗时。

▲推理引擎rec与llama.cpp在苹果M4 Pro上的Token生成吞吐量对比，图源：GitHub

在部署方面，Flint支持通过SGLang、Ollama和LM Studio等工具在本地运行。模型支持离线使用，开发者可以根据自身硬件条件选择合适的运行方式，减少对远程服务的依赖。

三、自动化系统参与研发，优化模型架构与推理效率

Recursive在Flint的开发过程中，通过持续实验、评估和迭代优化，不断提高模型训练和推理效率。

该公司自研的自动化研究系统Eureka Machine能够自动提出研究方案、编写实现代码并开展实验，再根据实验结果决定下一步尝试方向。该系统还可以并行探索多条技术路线，利用此前实验结果调整后续方案，并组合不同方案中的有效改进。

其团队借助自动化研究系统Eureka Machine，在不到4个月的时间内从零开发了Flint。在研发过程中，Eureka Machine还参与了训练数据处理、优化器选择和训练方案设计，并对模型基础设施与推理性能进行优化。

模型架构调整就是一个例子。

Recursive最初测试的基准方案总参数量为350亿，每Token激活30亿参数。随后，该自动化研究系统Eureka Machine探索了不同的专家配置和网络宽度，最终选出总参数量约400亿、每Token激活约25亿参数的架构。

Recursive认为，这一方案在其测试过的配置中，更好地兼顾了运行速度与编程能力。

模型训练完成后，该系统又继续优化模型占用的内存和推理效率。

在量化环节，Eureka Machine尝试将模型输出层的参数精度压缩至4位，并加入离线蒸馏步骤，以弥补低精度处理可能造成的性能损失。最终采用NVFP4格式的模型，在其基准测试中的得分与16位精度版本相差不到0.7分。

Recursive的模型训练时间优化实验经历了6轮迭代，训练耗时从最初的141.5秒逐步降至77.5秒，整体缩短约45%。最后一轮采用递归优化方案，将训练耗时进一步压缩至77.5秒，较此前纪录快2.2秒，创下该组实验的新低。

▲Eureka Machine优化模型训练耗时的实验结果，图源：Recursive

Recursive希望将这种研发方式延伸至后续模型开发，让每一代模型的研发成果反过来提高Eureka Machine的研究能力，进而加快下一代模型的开发。

四、八位AI大牛联手创业，三位华人坐镇创始团队

Recursive于2026年5月结束隐身，办公地位于美国旧金山和英国伦敦，其研究方向涉及自动化算法、模型训练和能够自我改进的编程Agent。

该公司团队已有25人以上，其不少成员曾在Salesforce、Uber、OpenAI、谷歌DeepMind、谷歌Brain和Meta等企业及研究机构任职。

Recursive的联合创始人团队共有8人，包括联合创始人兼首席执行官理查德·索赫尔（Richard Socher）、田渊栋（Yuandong Tian）、蒂姆·罗克特舍尔（Tim Rocktäschel）、施天麟（Tim Shi）、乔什·托宾（Josh Tobin）、熊才明（Caiming Xiong）、杰夫·克鲁恩（Jeff Clune）和阿列克谢·多索维茨基（Alexey Dosovitskiy）。

▲Recursive Superintelligence八位联合创始人，图源：Recursive

Recursive联合创始人兼首席执行官理查德·索赫尔（Richard Socher）是AI领域的知名研究者和连续创业者。

他曾师从斯坦福大学教授、AI研究者吴恩达，研究方向包括自然语言处理和深度学习，参与过ImageNet、GloVe等相关研究，谷歌学术引用量超过24万次。

他也是早期推动神经网络应用于自然语言处理的研究者之一，并因较早系统研究提示工程而被称为“提示工程之父”。

索赫尔曾创办AI初创公司MetaMind，该公司于2016年被企业软件公司Salesforce收购。此后，他创办了AI搜索公司You.com，并曾担任Salesforce首席科学家兼执行副总裁。

值得一提的是，Recursive创始团队中有三位华人。

田渊栋曾担任Meta基础AI研究团队（FAIR）的研究科学家总监，研究方向涉及强化学习、规划与效率，以及大型语言模型的理论研究。

他本科及硕士毕业于上海交通大学，2013年获美国卡内基梅隆大学机器人研究所博士学位。博士毕业后，田渊栋于2013年至2014年在谷歌自动驾驶汽车团队担任软件工程师，随后加入Meta FAIR从事AI研究近十年，并于2025年离开Meta。

▲Recursive联合创始人田渊栋，图源：田渊栋个人官网

熊才明曾任企业软件公司Salesforce AI研究高级副总裁，长期从事AI研究与模型开发。加入Salesforce之前，他曾在MetaMind担任高级研究员，与索赫尔有过共事经历。

他本科及硕士毕业于华中科技大学，后于纽约州立大学布法罗分校取得计算机科学与工程博士学位，并在加州大学洛杉矶分校完成统计学博士后研究。

▲Recursive联合创始人熊才明（Caiming Xiong），图源：熊才明个人网站

施天麟（Tim Shi）是清华大学姚班校友，曾在斯坦福大学人工智能实验室攻读博士学位，研究方向涉及机器学习与AI系统。

2017年，他加入OpenAI，参与早期AI Agent研究。随后，他联合创办企业AI公司Cresta，并担任联合创始人兼首席技术官，推动AI技术在企业销售和客服场景中的应用。此后，他参与创办Recursive Superintelligence。

▲Recursive联合创始人施天麟（Tim Shi），图源：施天麟个人网站

其他联合创始人也拥有不同的研究和创业经历。蒂姆·罗克特舍尔是伦敦大学学院教授，曾在谷歌DeepMind从事AI研究；杰夫·克鲁恩长期研究开放式算法和自我改进AI。

结语：速度与实用性兼得，本地编程模型研发提速

Flint的推出体现了本地编程模型在代码生成能力之外，对运行效率与部署体验的重视。

模型在本地运行，可以减少对云端算力的依赖，也有助于降低代码和数据向远程服务器传输的需求，也让开发者拥有更灵活的使用方式。

Recursive将混合专家架构与自动化研发系统Eureka Machine结合，既优化了模型的本地运行效率，也探索了以自动化系统加快模型研发的新路径。

来源：Recursive