InternVL3-9B-Instruct vs InternVL3-9B如何选？SFT版与MPO版核心差异全解读

🤔InternVL3-9B-Instruct是开源多模态大语言模型（MLLM）InternVL3-9B 的SFT（监督微调）版本：它已完成原生多模态预训练和 SFT，但尚未进行 MPO（混合偏好优化）。而 InternVL3-9B（不带 Instruct 后缀的版本）是走完全部训练流程的完整版。两者参数量同为 9B、架构完全相同，差异只在训练阶段——本文带你 5 分钟看懂区别，并给出选型建议。

📌 一句话结论：拿不准就选 InternVL3-9B

项目官方在 README.md 中明确写道：

"This is the SFT version of InternVL3-9B, which has undergone native multimodal pre-training and SFT but has not undergone MPO. If you're unsure which version to use, please use the InternVL3-9B version."

也就是说：日常直接拿来用、跑推理，优先选 InternVL3-9B（MPO 版）；只有在你想继续训练、做二次开发时，SFT 版才有独特价值。

上图：项目仓库examples/目录自带的示例图片，常用于测试 InternVL3 的图像描述能力

🔍 先搞懂背景：InternVL3 的训练流水线

InternVL3 遵循「ViT - MLP - LLM」经典多模态架构，训练分三个阶段：

所以两个版本的权重规模、模型结构、视觉编码器（InternViT-300M-448px）和语言底座（internlm3-8b）完全一致，区别就是那个"❌ vs ✅"。

⚖️ 核心差异一：MPO 带来的推理能力跃升

MPO（Mixed Preference Optimization，混合偏好优化）是两者最本质的区别。

在预训练和 SFT 阶段，模型学习的是"给定标准答案的前文，预测下一个 token"；但推理时模型只能基于自己生成的上文继续预测——训练与推理之间的这种分布偏移，会削弱链式思维（CoT）推理表现。MPO 通过引入正样本 + 负样本双重监督来对齐这种偏移，其训练目标是三项损失的加权组合：

L = w_p·L_p(偏好损失) + w_q·L_q(质量损失) + w_g·L_g(生成损失)

实际效果如何？官方消融实验显示：经过 MPO 的模型在7 个多模态推理基准上全面领先未经 MPO 的对应版本，其中 InternVL3-78B、38B 分别提升4.1 分和 4.5 分。更关键的是，MPO 的训练数据只是 SFT 数据的子集——提升来自算法本身，而非更多数据。

👉 结论：如果你的任务涉及数学、逻辑推理、复杂图表分析、长链 CoT，MPO 版的优势是实打实的。

⚙️ 核心差异二：SFT 版更适合"再训练"

为什么还有人需要 SFT 版？答案是一类典型场景：继续训练 / 二次开发。

• 在你自己的领域数据上 SFT：SFT 版停在监督微调阶段，没有经过偏好对齐，行为上更接近"毛坯"，继续训练时你可以完全掌控训练阶段与数据配比；
• 做蒸馏或下游定制：从 SFT 版出发，后续接 MPO、DPO 等偏好训练的流程更干净，避免在"已对齐"的模型上叠加对齐带来的偏置。

当然，这也意味着 SFT 版在开箱即用的推理/数学任务上会弱于 MPO 版——这是"毛坯"与"精装"的天然取舍。

🚀 怎么选？一张决策表搞定

💡 另外提示：推理阶段还可叠加Test-Time Scaling（Best-of-N 策略配合 VisualPRM-8B 评审模型挑选最佳答案），在数学与推理评测上能再涨一截，两个版本均可受益。

📦 模型本体速览：两个版本共通的技术细节

如果你想验证或研究模型本身，本仓库即 SFT 版的完整权重，关键文件：

• config.json：模型主配置。可以看到语言底座model_type: internlm2、48 层、上下文max_position_embeddings: 32768，视觉侧采用448px 动态分辨率（force_image_size: 448、max_dynamic_patch: 12，最多切 12 个图像块）；
• modeling_internvl_chat.py：InternVLChatModel 主模型实现，负责图文融合与对话生成；
• modeling_intern_vit.py：InternViT 视觉编码器实现；
• model.safetensors.index.json：4 个分片权重的索引文件。

值得一提的是，InternVL3 引入了V2PE（可变视觉位置编码），使用更小更灵活的视觉 token 位置增量，显著增强了长上下文理解能力——这也是 SFT 版与 MPO 版共同享有的能力。

🛠️ 快速上手：5 行代码加载 SFT 版

使用transformers（需transformers>=4.37.2）加载本仓库模型即可体验：

import torch from transformers import AutoModel model = AutoModel.from_pretrained( "OpenGVLab/InternVL3-9B-Instruct", torch_dtype=torch.bfloat16, low_cpu_mem_usage=True, trust_remote_code=True).eval().cuda()

需要生产部署时，推荐 README.md 中的LMDeploy方案（Turbomind 引擎 + 兼容 OpenAI 接口的 API Server），多卡推理与批处理都有现成示例，可直接参考 README 的 Quick Start 与 Deployment 章节。

✅ 总结

• InternVL3-9B-Instruct = SFT 版：完成了原生多模态预训练 + SFT，没有 MPO；
• InternVL3-9B = MPO 版（完整版）：在 SFT 基础上追加混合偏好优化，推理能力更强；
• 选型口诀：直接推理用 MPO 版，继续训练用 SFT 版，拿不准就用 MPO 版；
• 两者架构、参数量、视觉编码器完全相同，切换成本几乎为零，可以放心按场景选用。