★ FEATURED ARTICLE 【免费下载链接】InternVL3-9B-Instruct项目地址https://ai.gitcode.com/OpenGVLab/InternVL3-9B-Instruct点击查看免费下载InternVL3-9B-Instruct是开源多模态大语言模型MLLMInternVL3-9B 的SFT监督微调版本它已完成原生多模态预训练和 SFT但尚未进行 MPO混合偏好优化。而 InternVL3-9B不带 Instruct 后缀的版本是走完全部训练流程的完整版。两者参数量同为 9B、架构完全相同差异只在训练阶段——本文带你 5 分钟看懂区别并给出选型建议。 一句话结论拿不准就选 InternVL3-9B项目官方在 README.md 中明确写道This is the SFT version of InternVL3-9B, which has undergone native multimodal pre-training and SFT but has not undergone MPO. If youre unsure which version to use, please use the InternVL3-9B version.也就是说日常直接拿来用、跑推理优先选 InternVL3-9BMPO 版只有在你想继续训练、做二次开发时SFT 版才有独特价值。上图项目仓库examples/目录自带的示例图片常用于测试 InternVL3 的图像描述能力 先搞懂背景InternVL3 的训练流水线InternVL3 遵循「ViT - MLP - LLM」经典多模态架构训练分三个阶段阶段做什么SFT 版本仓库完整版 InternVL3-9B① 原生多模态预训练图文视频数据与文本语料混合预训练✅✅② SFT 监督微调高质量、多样化指令数据微调✅✅③ MPO 混合偏好优化引入正/负样本对齐输出分布❌✅所以两个版本的权重规模、模型结构、视觉编码器InternViT-300M-448px和语言底座internlm3-8b完全一致区别就是那个❌ vs ✅。⚖️ 核心差异一MPO 带来的推理能力跃升MPOMixed Preference Optimization混合偏好优化是两者最本质的区别。在预训练和 SFT 阶段模型学习的是给定标准答案的前文预测下一个 token但推理时模型只能基于自己生成的上文继续预测——训练与推理之间的这种分布偏移会削弱链式思维CoT推理表现。MPO 通过引入正样本 负样本双重监督来对齐这种偏移其训练目标是三项损失的加权组合L w_p·L_p(偏好损失) w_q·L_q(质量损失) w_g·L_g(生成损失)实际效果如何官方消融实验显示经过 MPO 的模型在7 个多模态推理基准上全面领先未经 MPO 的对应版本其中 InternVL3-78B、38B 分别提升4.1 分和 4.5 分。更关键的是MPO 的训练数据只是 SFT 数据的子集——提升来自算法本身而非更多数据。 结论如果你的任务涉及数学、逻辑推理、复杂图表分析、长链 CoTMPO 版的优势是实打实的。⚙️ 核心差异二SFT 版更适合再训练为什么还有人需要 SFT 版答案是一类典型场景继续训练 / 二次开发。在你自己的领域数据上 SFTSFT 版停在监督微调阶段没有经过偏好对齐行为上更接近毛坯继续训练时你可以完全掌控训练阶段与数据配比做蒸馏或下游定制从 SFT 版出发后续接 MPO、DPO 等偏好训练的流程更干净避免在已对齐的模型上叠加对齐带来的偏置。当然这也意味着 SFT 版在开箱即用的推理/数学任务上会弱于 MPO 版——这是毛坯与精装的天然取舍。 怎么选一张决策表搞定使用场景推荐版本理由直接部署、日常对话、图像问答InternVL3-9BMPO 版推理能力更强官方推荐数学 / 逻辑 / 图表等强推理任务InternVL3-9BMPO 版MPO 专治 CoT 分布偏移用自己的数据继续 SFT / LoRA 微调InternVL3-9B-InstructSFT 版训练阶段可控无偏好对齐干扰蒸馏、构建私有领域多模态模型InternVL3-9B-InstructSFT 版起点干净流水线自由度高拿不准InternVL3-9B官方建议不确定就用完整版 另外提示推理阶段还可叠加Test-Time ScalingBest-of-N 策略配合 VisualPRM-8B 评审模型挑选最佳答案在数学与推理评测上能再涨一截两个版本均可受益。 模型本体速览两个版本共通的技术细节如果你想验证或研究模型本身本仓库即 SFT 版的完整权重关键文件config.json模型主配置。可以看到语言底座model_type: internlm2、48 层、上下文max_position_embeddings: 32768视觉侧采用448px 动态分辨率force_image_size: 448、max_dynamic_patch: 12最多切 12 个图像块modeling_internvl_chat.pyInternVLChatModel 主模型实现负责图文融合与对话生成modeling_intern_vit.pyInternViT 视觉编码器实现model.safetensors.index.json4 个分片权重的索引文件。值得一提的是InternVL3 引入了V2PE可变视觉位置编码使用更小更灵活的视觉 token 位置增量显著增强了长上下文理解能力——这也是 SFT 版与 MPO 版共同享有的能力。️ 快速上手5 行代码加载 SFT 版使用transformers需transformers4.37.2加载本仓库模型即可体验import torch from transformers import AutoModel model AutoModel.from_pretrained( OpenGVLab/InternVL3-9B-Instruct, torch_dtypetorch.bfloat16, low_cpu_mem_usageTrue, trust_remote_codeTrue).eval().cuda()需要生产部署时推荐 README.md 中的LMDeploy方案Turbomind 引擎 兼容 OpenAI 接口的 API Server多卡推理与批处理都有现成示例可直接参考 README 的 Quick Start 与 Deployment 章节。✅ 总结InternVL3-9B-Instruct SFT 版完成了原生多模态预训练 SFT没有 MPOInternVL3-9B MPO 版完整版在 SFT 基础上追加混合偏好优化推理能力更强选型口诀直接推理用 MPO 版继续训练用 SFT 版拿不准就用 MPO 版两者架构、参数量、视觉编码器完全相同切换成本几乎为零可以放心按场景选用。赞分享【免费下载链接】InternVL3-9B-Instruct项目地址https://ai.gitcode.com/OpenGVLab/InternVL3-9B-Instruct点击查看免费下载相关推荐Phaser 4 Sprite 动画完整指南从 AnimationManager 到 AnimationState 的实战全解Phaser 4 Sprite 动画完整指南从 AnimationManager 到 AnimationState 的实战全解 本篇技术指南围绕 Phaser最全面Manim版本解析社区版vs原版核心差异与选择指南最全面Manim版本解析社区版vs原版核心差异与选择指南 你还在为选择Manim版本发愁吗作为创建数学解释视频的顶级动画引擎Animation engin图形学教育Kavita 社区版 vs 商业版5大核心差异与最佳选择指南Kavita 社区版 vs 商业版5大核心差异与最佳选择指南 Kavita是一款快速、功能丰富的跨平台阅读服务器专注于漫画阅读体验旨在为用户提供完整的阅读后端前端上一篇终极鼠标革命如何用Mac Mouse Fix让普通鼠标在macOS上超越苹果触控板下一篇使用 ChatterBot 构建 Python 聊天机器人从零训练到接入本地大模型Ollama的完整实战创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
