返回行业动态
模型与产品

40B 编码模型跑进笔记本:Recursive 开源 Flint,研发由自动化系统代劳

Recursive 开源 Flint-40B-A2B:400 亿总参、25 亿激活的本地编码模型,Apache 2.0 权重可在笔记本上跑到每秒 125 token 以上。官方称从分词器到强化学习全流程由其自研自动化研究系统 Eureka Machine 参与,四个月完成。对企业而言代码不必出内网,但三项基准均为厂商自报。

来源:Hugging Face:RecursiveSI/flint(Flint-40B-A2B 模型卡,Apache 2.0)原标题:Recursive Flint: a fast local coding model built with our automated research system查看原文
深夜研发工作台特写,前景键盘虚化,笔记本侧面与成排工位延伸至远处灯火

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

美国时间 10 月 21 日晚,由前 Meta FAIR 研究总监田渊栋与前 Salesforce 首席科学家 Richard Socher 联合创办的 Recursive 发布首个模型 Flint-40B-A2B,权重按 Apache 2.0 协议在 Hugging Face 开放。这是一款面向本地智能体编码的混合专家模型:总参数 400 亿,每生成一个 token 只激活约 25 亿参数,官方给出的上下文上限为 512K。

  • 速度:M4 Pro 的 MacBook Pro 上超过每秒 125 token,64GB 内存的 NVIDIA RTX Spark 上超过每秒 150 token,官方称最高为同类模型的两倍
  • 基准:Terminal-Bench 2.1 为 54.9%,SWE-bench Pro v2 为 89.7%,SWE-bench Verified 为 74.2%,官方称领先所有总参数量低于 500 亿的 MoE 模型
  • 生态:兼容 llama.cpp、Ollama、LM Studio、vLLM 与 SGLang,另配自研轻量推理引擎 rec,目前针对 M4 Pro 与 M5 Pro/Max 优化

研发方式比跑分更值得记

从零到发布不到四个月,而这条流水线的主力是 Recursive 自研的自动化研究系统 Eureka Machine。据官方披露,它覆盖分词器、预训练、中期训练、监督微调与强化学习,并参与架构搜索、量化方案与内核生成:从 350 亿总参、30 亿激活的基线出发,试探不同专家配置后定在 400 亿与 25 亿;把输出层也压到 4 bit,再用离线蒸馏补精度,训练步数比常规量化感知训练少近一半,最终 NVFP4 版本与 16 位版本的基准差距不超过 0.7 分。

官方同时把话说得很清楚:这不等于模型已经实现自主的递归自我改进,当前成果仍是人类研究员与自动化系统协作完成,人类负责监督与结果筛选。这条边界比任何数字都重要,它决定了外界应当把它看作研发效率工具,还是看作能力自演化的证据。

对企业意味着什么

真正的变化在部署位置。过去要在内网跑一个能改代码的智能体,基本要依赖 200B 以上的云端模型;现在 40B 总参、2.5B 激活的稀疏结构加低比特量化,把门槛压到了 24GB 至 48GB 统一内存的个人设备。代码、日志与内部文档不必出内网,按 token 计费也换成了固定折旧,对数据出境敏感的研发团队来说,这是一笔可以算清的账。

  • 内存是硬约束:官方建议编程任务把上下文控制在 256K 以内;有开发者反馈在 48GB 内存的 M5 Pro 上同时跑约 50 个 Agent,会被系统因内存压力提前终止进程
  • 分数需自证:六项基准的均值上仍有阿里 Qwen3.8 27B 更高,采购前应按自有仓库做一轮回归,而不是照抄模型卡

还有哪些不确定

三项基准尚无第三方复现,社区目前只复现了速度(M5 Max 64GB 上 114 至 132 token/s,12GB 显存的 RTX 3060 上约 46 token/s)。AI 参与造 AI 的过程中人类监督究竟占多少权重,也只有 Recursive 单方说法。对计划引入的企业,更稳妥的做法是先在隔离环境跑两到三周真实任务,再判断它能否替代现有的云端编码助手。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。