理应资讯
软件研发智能化

vLLM-Omni 为 MiniMax H3-Image 提供 Vera Rubin 首日支持,短提示 4K 中位时延 0.87 秒

理应编辑室 ·

vLLM 于 11 月 12 日介绍,vLLM-Omni 已在 NVIDIA Vera Rubin 上为 MiniMax H3-Image 提供首日支持。四卡短提示基准里,原生 4K 文生图中位时延为 0.87 秒;更长提示和单卡卸载部署的测量明显更慢。

vLLM 在 2026 年 11 月 12 日的博客中介绍,vLLM-Omni 已把 MiniMax 的开源权重图像模型 H3-Image 接到 NVIDIA Vera Rubin,并公布了一组自测服务数据。在四张 GPU、Ulysses 序列并行(SP4)的短提示服务基准里,原生 4096×4096 文本生成的中位时延是 0.866 秒(文中也写作 0.87 秒),p95 为 0.944 秒。同一篇文章强调,这个数字来自另一套短提示语料,不能和后文那条更长的商品提示测量混用。

H3-Image 由 MiniMax 在 11 月 11 日发布。官方博客和 Hugging Face 模型卡写明:一个检查点同时做文生图和图像编辑,采样固定为 6 步,不必另接放大模型即可直接输出约 1600 万像素的图像,并最多接受 16 张参考图。扩散变换器约 331 亿参数,文本编码器沿用 MiniMax-H3 中的 Qwen3-VL,权重需另从 MiniMax-H3 仓库加载。模型卡列出该检查点约 68.65 GB(BF16),并说明权重按 MiniMax-H3-Image Community License 发布,不是无限制的宽松许可。

vLLM 把这套模型接到消费级和数据中心 GPU,并写明也支持 AMD、Intel、摩尔线程(MUSA)以及华为昇腾,单卡和多卡都可以服务。为了对照不同部署,博客用同一条较详细的咖啡商品提示、三次随机种子的均值来比较硬件:四张 Vera Rubin 生成 4K 文生图的平均时延是 1.09 秒,四张 GB300 是 1.48 秒,四张 H200 是 4.02 秒;单张 RTX 5090 在把扩散变换器和文本编码器卸载到 CPU、图像解码用即时计算时,同样请求平均 52.29 秒。这些测量包含文本编码、生成、PNG 编码和完整 HTTP 响应,但不含提示词扩写。博客写明,各机型的 GPU 数量、精度、是否驻留权重和互连并不相同,因此是已部署系统的对照,而不是只隔离 GPU 架构的实验。另外,部分 1K 检查是在默认最小画布 2048×2048 上生成后再缩小的,不能代表原生 1K 扩散计算量。

0.87 秒与吞吐高峰也不是同一工作点。在 Rubin 专项测试里,四卡 SP4、并发 1 时中位时延 0.866 秒;四个单卡副本在并发 8 时达到每小时 6115 张,此时中位时延是 4.411 秒。vLLM 按每小时 6115 张外推,一套四卡 Rubin 每天约可出 146755 张 4K 图,并采用 MiniMax 官方价目表示例中、折扣前的 Standard 4K 文生图每张 0.06879 美元,估算满负荷计费利用下每卡每小时毛收入 105.16 美元、75% 利用时为 78.87 美元。这是乘以假设售价后的毛额,未扣运行成本,也不是 24 小时压测。MiniMax 定价页把 0.06879 美元标为 Standard 4K 文生图的示例费用,并说明实际费用会随文本输入 token(含提示增强)变化;同时写明,到 2026 年 11 月 17 日 16:00 UTC(不含该时刻)为止,最终交付图像不少于 1660 万像素时,H3-Image 与 Highspeed 的请求总费用打五折,该示例现价为 0.03439 美元。

本地部署方面,Hugging Face 模型卡和 vLLM 说明都指向用 vLLM-Omni 启动 MiniMaxAI/MiniMax-H3-Image 服务。vLLM-Omni 的贡献者还做了面向创作者的 OpenDirector,但博客写明其首日 H3-Image 接入目前走 MiniMax 托管图像接口,由 vLLM-Omni 提供的本地工作流仍在计划中。本文没有实际启动上述服务,也未复测时延。

参考资料

  1. H3-Image Day-0 Support: 4K in 0.87s with Vera Rubin · vLLM Blog
  2. MiniMax H3-Image: Bringing 4K Image Generation into the 10-Second Era · MiniMax
  3. MiniMaxAI/MiniMax-H3-Image · Hugging Face (MiniMax official model card)
  4. Pricing Overview · MiniMax API Platform