理应资讯
软件研发智能化

Strata:在游戏 PC 上本地跑 125B 级模型,并可接编程智能体

理应编辑室 ·

开源项目 Strata(MIT)声称用显存+内存分层,把 Qwen3.8-Flash-Next 等大模型跑在消费级电脑上,并可通过 OpenAI/Anthropic 兼容接口对接 Claude Code、Codex、OpenCode。

GitHub 开源项目 Strata(MIT)把「在普通游戏电脑上跑前沿级本地模型」当作目标:官方 README 写明默认运行 Qwen3.8-Flash-Next(约 1250 亿参数),并从 0.2.4 起在终端侧支持 DeepSeek V4.1-Flash。它强调聊天、写代码、读图,以及与本机应用、编程智能体协同,对话与文件留在本机,无账号、无云端遥测。

硬件门槛按「内存 + 显存合计」计算:起步约 32 GB,64 GB 可覆盖更多量化档位;需约 80 GB 空闲 SSD,支持 NVIDIA(RTX 20/30/40/50、≥12 GB)、部分 AMD/Intel Arc,以及 Apple Silicon(macOS 15+)。项目方展示在 RTX 5070 等配置上的演示视频与吞吐数据;社区帖称 12 GB 显卡 + 64 GB 内存实测约 53 tokens/s,具体以本机量化档与上下文长度为准。

对接方式是提供 OpenAI / Anthropic 兼容 API,从而把 Claude Code、Codex CLI、OpenCode 等编程智能体指到本机推理,减少按 Token 云端计费。对敏感代码与内部文档不想出网的团队,这相当于把「模型后端」收回到自己机器上,同时仍沿用熟悉的编程代理工作流。

适合想把编程代理留在本地、又能接受下载体积与调参成本的开发者;首次部署仍要按文档核对驱动、量化档与多卡说明,不要把演示吞吐直接写成生产 SLA。若机器内存吃紧,优先从较小量化档与较短上下文试起,再逐步抬到文档推荐配置。

# Strata# 本地推理# Qwen# 编程智能体# 开源