Recursive 发布开源编程模型 Flint:约 400 亿参数 MoE,可在本地运行,Ollama 已上架
Ollama 宣布上架 Recursive 的首个模型 Flint:约 400 亿参数的 MoE 开源模型,面向本地运行的智能体编程场景,官方称在 M4 Pro MacBook Pro 上短上下文生成速度超过每秒 125 个 token。
本地大模型运行工具 Ollama 10 月 22 日凌晨(北京时间)宣布上架 Flint。Flint 是 AI 公司 Recursive 发布的首个模型,定位为“快速、准确的智能体编程”开源模型,设计目标是直接在个人设备上运行。按 Ollama 的介绍,Flint 是一个参数规模约 400 亿的混合专家(MoE)模型。
速度是这次发布最突出的卖点。Ollama 称,在短上下文条件下,Flint 在 M4 Pro 芯片的 MacBook Pro 上生成速度超过每秒 125 个 token,在 64GB 显存的 NVIDIA RTX Spark 上超过每秒 150 个 token。Recursive 方面在被引用的发布帖中表示,Flint 由其自动化研究系统“Eureka Machine”参与构建,从零开始用不到四个月完成,速度最高可达同类模型的两倍;权重已在 Hugging Face 开放,可在常用推理框架中本地运行,也可以在 opencode 或 pi 等编程工具中免费试用。
| 运行环境(短上下文) | 官方给出的生成速度 |
|---|---|
| M4 Pro MacBook Pro | >125 tokens/秒 |
| 64GB NVIDIA RTX Spark | >150 tokens/秒 |
使用方式上,开发者在安装 Ollama 后执行 ollama run flint 即可在本地调用;如果想把 Flint 作为 Claude Code 的后端模型,Ollama 给出的命令是 ollama launch claude --model flint。这意味着开发者可以在保留现有编程智能体工作流的同时,把推理放到自己的机器上完成。
对研发团队来说,本地编程模型的价值主要在于代码不出本机、调用不按量计费,以及在离线或受限网络环境下仍可使用。Recursive 也把“私有、无计量的智能”作为宣传重点。不过,智能体编程往往需要多轮工具调用和较长上下文,官方给出的速度数据均基于短上下文,长任务下的速度与准确率仍需开发者结合自己的代码库实测;上述性能数据均来自发布方,尚无独立评测。
Meet Flint from Recursive: an open MoE model for on-device agentic coding
Meet Flint from @Recursive_SI! A ~40B parameter MoE open model for fast, accurate agentic coding use case made to run on-device.
Flint can generate >125 tps on a M4 Pro Macbook Pro and >150 tps on a 64GB NVIDIA RTX Spark on short contexts.
Try it on Ollama today: ollama run flint
Claude Code: ollama launch claude --model flint