理应资讯
软件研发智能化

Rapid-MLX 1.0:Apple Silicon 本地推理服务加入内置 Agent 挽具与新模型族

理应编辑室 ·

开源项目 Rapid-MLX 于 10 月 29 日发布 1.0.0:在 Apple Silicon 上提供兼容 OpenAI/Anthropic API 的本地推理,并加入终端与桌面内置 Agent 挽具,同时引入 LFM3、Ornith 与 MiniMax-H3 等模型别名。

面向编码智能体的本地推理栈 Rapid-MLX 在 2026 年 10 月 29 日放出稳定版 1.0.0。项目基于 Apple 的 MLX,在 Apple Silicon Mac 上提供 OpenAI 与 Anthropic 兼容 API,许可证为 Apache-2.0;官方与 PyPI 均强调其工具调用面向编码智能体场景。

1.0 的核心增量是内置 Agent 挽具:终端可用 rapid-mlx chat --harness 维持带工具与审批的会话,桌面端同能力默认关闭,需在设置中打开「Built-in Agent Harness」。网络客户端需审批,终端命令继承受限环境,但官方写明策略偏启发式、命令本身未沙箱化。模型侧增加 LFM3 1.7B 文本与 LFM3-VL 2B 图像的 8-bit 别名、Ornith 1.5 122B-A10B 的 4-bit 文本别名,以及可用文本或首帧生成带同步音频视频的 MiniMax-H3(官方称服务端需约 160GB 及以上统一内存与 BF16 权重,默认 8 步 Turbo LoRA)。桌面聊天单条最多附 8 张图,并可在空闲后释放模型以腾内存。

本地推理无需账号;若开启联网工具则会出站。分享算力需 QuickSilver 提供方密钥,回报为 API 积分而非现金。桌面要求 macOS 14+、Apple Silicon,16GB 内存为更舒适基线。对希望把 Claude Code、Codex 一类智能体指到本机模型、少把提示词送上云的开发者,1.0 把「先搭推理服务再接 Agent」收成更短的路径,但仍需按机型内存与模型页要求选型。

# 软件研发# Rapid-MLX# 本地推理# Apple Silicon# 编码智能体