MiniMax-H3 的 GGUF 量化版本怎么选：Q2_K、Q3_K_M、Q4_K

MiniMax-H3 的 GGUF 量化版本怎么选：Q2_K、Q3_K_M、Q4_K_M 的显存账与效果账

【免费下载链接】MiniMax-H3_GGUFs项目地址: https://ai.gitcode.com/hf_mirrors/realrebelai/MiniMax-H3_GGUFs

手里只有一张 24GB 的老显卡，又想本地跑视频生成，一打开仓库看到六个 GGUF 文件直接懵了：Q2_K、Q3_K_M、Q4_K_M 到底该下哪个？这个量化版本选型问题，如果只按"越大越好"来挑，很可能出现两种结局——下了 18GB 的 Q4 发现显存跑不动，或者下了轻量版生成出来画质不满意。选错版本既浪费显存又浪费时间，本文就用仓库里的真实文件把这道选择题讲清楚。

先认清一件事：仓库里不是一个模型，而是三组零件

打开MiniMax-H3_GGUFs目录，六个.gguf文件其实分属三个组件，它们缺一不可：

FL2VA（MiniMax-H3-FL2VA-Q3_K_M.gguf/-Q4_K_M.gguf）：图生视频主模型，对应FL2V_(WORKFLOW).json工作流
REF2VA（MiniMax-H3-REF2VA-Q3_K_M.gguf/-Q4_K_M.gguf）：参考帧模型，对应REF2V_(WORKFLOW).json工作流，追求镜头一致性和角色一致性时加载
文本编码器（qwen3vl-32B-MiniMax-H3-Q2_K.gguf/-Q4_K_M.gguf）：负责理解提示词，工作流里由CLIPLoaderGGUF节点加载

除此之外，README 明确要求还要从 Comfy-Org/MiniMax-H3 下载两个 VAE：minimax_h3_audio_vae_fp32.safetensors和minimax_h3_video_vae_fp16.safetensors，前者管音频、后者管画面。很多新手卡在"模型加载失败"，就是因为漏了 VAE 这一步。

仓库里的.gguf文件都是 Git-LFS 指针（只有 136 字节），真实大小记录在指针文件的size字段里。下表就是六个文件的真实体量，单位 GB，可直接核对。

文件	真实大小
MiniMax-H3-FL2VA-Q3_K_M.gguf	≈ 14.5 GB
MiniMax-H3-FL2VA-Q4_K_M.gguf	≈ 18.5 GB
MiniMax-H3-REF2VA-Q3_K_M.gguf	≈ 14.5 GB
MiniMax-H3-REF2VA-Q4_K_M.gguf	≈ 18.5 GB
qwen3vl-32B-MiniMax-H3-Q2_K.gguf	≈ 7.9 GB
qwen3vl-32B-MiniMax-H3-Q4_K_M.gguf	≈ 13.6 GB

注意，仓库里 FL2VA 和 REF2VA 只有 Q3_K_M / Q4_K_M 两档，Q2_K 只存在于文本编码器。所以"Q2 还是 Q4"这种问法本身不准确，真正的问题是三个组件各自选哪档、怎么组合。

四道选择题，按顺序做就能定版本

与其背参数表，不如顺着下面四个问题走一遍，每一步的答案都会收窄选择范围。

第 1 题：你的显存是 24GB 档还是 32GB 档？

这是决定性的一问。模型权重不等于运行占用，推理时还要额外留出 KV cache、激活值、VAE 和视频编解码的开销（经验上加 20%~30%）。所以先按"总权重 + 余量"来卡门槛：

第 1 题：显卡显存？ ├─ 24GB 档（RTX 3090 / 4090） → 权重合计别超过 22GB 左右 └─ 32GB 档及以上（A6000 / L40S） → 权重合计可到 28GB 以上

第 2 题：需要参考帧能力吗？

REF2VA 不是必选项。只做普通的图生视频、快速出草稿，FL2V_(WORKFLOW).json就够了；要保证多镜头间角色长相稳定，才需要把 REF2VA 也放进加载列表。它和 FL2VA 各自占 14.5~18.5GB，显存紧张时优先砍掉参考帧，而不是砍画质。

第 3 题：文本编码器选 Q2_K 还是 Q4_K_M？

这是性价比最高的一刀。Q4_K_M 比 Q2_K 大约 72%（对比基准：Q2_K，即 13.6GB vs 7.9GB），但对提示词理解质量的影响通常小于 unet 的量化损失。显存不够时，先降文本编码器，效果损失最小。

第 4 题：目标分辨率是 720p 还是 1080p？

FL2V_(WORKFLOW).json里有ResolutionSelector和一张"Size Settings Reference"的说明节点，先读它再动手。分辨率每升一档，显存压力接近翻倍，1080p 是 32GB 卡才建议碰的档位。

可复现的核对方法，数据自己说了算

上面的数字不是我拍脑袋，而是从仓库文件头直接读出来的，任何人都能复现。克隆后先看每个文件的大小与校验值：

git clone https://gitcode.com/hf_mirrors/realrebelai/MiniMax-H3_GGUFs cd MiniMax-H3_GGUFs du -sh *.gguf

每个 GGUF 指针文件里都有oid sha256字段（例如 FL2VA-Q4_K_M 的完整文件 sha256 为5e8fa6e960...e361e3），下载完成后可用sha256sum核对完整性，防止 LFS 断点导致文件损坏。文件大小比例的计算基准如下：

unet 的 Q4_K_M 比 Q3_K_M 大约 27.5%（基准：Q3_K_M，18.5GB vs 14.5GB）
文本编码器 Q4_K_M 比 Q2_K 大约 72%（基准：Q2_K，13.6GB vs 7.9GB）

至于生成耗时和画质差异，项目没有给出官方基准，建议自己跑一次再下结论。ComfyUI 每次执行结束会在日志打印Prompt executed in X 秒，这个数字就是最可靠的耗时记录；显存占用用watch -n 2 nvidia-smi盯峰值即可。社区的一般经验是：Q4_K_M 在色彩渐变、文字锐度上优于 Q3_K_M，但在 720p 下差异不如 1080p 明显——如果主要输出 720p，省下 4GB 选 Q3_K_M 是划算的。

三档预算方案，按显卡对号入座

入门档（24GB 卡，约 22GB 权重预算）FL2VA-Q3_K_M + qwen3vl-Q2_K，输出 720p、短时长、不加载 REF2VA。取舍逻辑：把最省的部分（文本编码器）压到最低，保住 unet 的 Q3 底线；适合显卡是 3090/4090、只想快速验证效果的用户。

均衡档（32GB 卡，约 28GB 权重预算）FL2VA-Q3_K_M + qwen3vl-Q4_K_M，可加载 REF2VA-Q3_K_M，1080p 需谨慎。取舍逻辑：文本编码器上 Q4 恢复提示词理解力，unet 维持 Q3 换显存余量；适合想兼顾质量与稳定性的主力配置。

旗舰档（40GB 以上卡）FL2VA-Q4_K_M + qwen3vl-Q4_K_M，REF2VA 可按需上 Q4。取舍逻辑：全部组件压到最高档，1080p + 参考帧全开；适合专业出片、对画质有硬要求的工作站用户。

三档的显存预估均为"权重合计 + 运行时开销"的估算值，没有跑满 K 缓存等极端情况；真到临界点时，宁可降一档分辨率也别降 unet 量化。

新手最容易踩的五个坑

只下主模型，漏了文本编码器和 VAE。README 的目录结构写得很清楚：models/unet/、models/text_encoders/、models/vae/各就各位，两个 VAE 缺一不可，放错目录一样报错。
把 136 字节的 LFS 指针当成模型。克隆时若没装 git-lfs，拉下来的全是几行文本的指针文件，加载必然失败。装好git-lfs后重新git lfs pull即可。
16GB 卡硬上 Q4 + Q4 组合。约 32GB 的权重合计不可能塞进 16GB 显存，即使 offload 到内存，速度也会慢到无法接受。正确的降级顺序是：先 Q2 文本编码器 → 再 Q3 unet → 最后才降分辨率。
线程数无脑拉满。CPU 和内存参与分摊时，--threads超过物理核心数反而降低效率；内存紧张的用户建议先查看官方推荐线程区间，而不是直接翻倍。
改了分辨率不看工作流里的尺寸说明节点。FL2V_(WORKFLOW).json内置的 Size Settings Reference 记录了已验证的尺寸组合，越界设置轻则显存溢出、重则生成失败，改之前先看它。