★ FEATURED ARTICLE 【免费下载链接】InternVL2_5-26B项目地址https://ai.gitcode.com/OpenGVLab/InternVL2_5-26B点击查看免费下载InternVL2_5-26B是上海 AI LabOpenGVLab开源的 InternVL 2.5 多模态大模型系列中的旗舰版本。本文带你快速看懂 InternVL2_5 从 1B 到 78B 的完整阵容、显存需求和适用场景帮助你一次性选对最适合自己显卡的多模态大模型避免盲目下载上百 GB 的权重文件。 30秒快速选型一张表看懂全系列如果你只有消费级显卡直接看这张表就能做决定模型语言骨干视觉编码器bf16 显存参考推荐场景InternVL2_5-1BQwen2.5-0.5BInternViT-300M约 2.5 GB端侧、边缘设备体验InternVL2_5-2BInternLM 2.5 1.8BInternViT-300M约 4 GB低显存服务器、多路并发InternVL2_5-4BQwen2.5-3BInternViT-300M约 8 GB入门图像问答InternVL2_5-8BInternLM 2.5 7BInternViT-300M约 16 GB单张 16G~24G 显卡日常使用InternVL2_5-26BInternLM 2.5 20BInternViT-6B约 53 GB单张 80G A100综合性能甜点InternVL2_5-38BQwen2.5-32BInternViT-6B约 76 GB双卡 40G / 单卡 80G 量化InternVL2_5-78BQwen2.5-72BInternViT-6B约 156 GB多卡集群、追求最强效果 经验法则bf16 精度下1B 参数大约需要 2 GB 显存往上线性估算即可用 8-bit 量化可再省约一半显存。上图正是仓库 examples/image1.jpg 中的官方示例图——一只趴在木架上的小熊猫。InternVL 2.5 全系列都支持对这类图片做描述、问答、多轮对话甚至配套的 examples/red-panda.mp4 还演示了视频逐帧理解能力。 InternVL2_5-26B 是什么架构与设计亮点InternVL2_5-26B 延续了系列经典的ViT-MLP-LLM三段式架构视觉端60 亿参数的 InternViT-6B-448px支持动态高分辨率——图片会被切成 448×448 的小块tiles分别编码细节文字、图表、公式都不易丢失桥接端随机初始化的 MLP 投影层外加 pixel unshuffle 将视觉 token 数量压缩到原来的 1/4省显存又不掉点语言端InternLM 2.5 20B 对话模型负责推理与生成。这套组合在 OCR、图表理解、多图像对比、视频理解、视觉定位等任务上都处于开源多模态模型第一梯队且训练时通过随机 JPEG 压缩、数据过滤等手段显著增强了鲁棒性。本仓库权重由 11 个分片组成model-00001-of-00011.safetensors 到 model-00011-of-00011.safetensors整体采用 bfloat16 存储。️ 显存与部署方案26B 到底能不能跑起来单卡 80G如 A100/H100官方明确说明80G 显卡可以直接把整个 26B 模型装进一张卡使用 bf16 flash-attention 加载即可。显存不够两条路8-bit 量化通过load_in_8bitTruebitsandbytes加载显存占用降到约 27 GB一张 48G 甚至多卡 24G 的机器就能跑多卡切分官方在 README.md 中提供了split_model方案按 48 层 transformer 层把 LLM 切到多张卡上视觉编码器固定在 0 号卡2~3 张 24G 卡即可完成推理。生产部署推荐 LMDeploy一条lmdeploy serve api_server OpenGVLab/InternVL2_5-26B命令就能拉起兼容 OpenAI 接口的推理服务方便业务系统直接调用。 本地快速上手最小可运行代码先用 git 把权重拉到本地约 53 GBgit clone https://gitcode.com/OpenGVLab/InternVL2_5-26B然后用 transformers 加载并对话要求transformers4.37.2import torch from transformers import AutoTokenizer, AutoModel path ./InternVL2_5-26B # 本地仓库路径 model AutoModel.from_pretrained( path, torch_dtypetorch.bfloat16, low_cpu_mem_usageTrue, use_flash_attnTrue, trust_remote_codeTrue).eval().cuda() tokenizer AutoTokenizer.from_pretrained(path, trust_remote_codeTrue, use_fastFalse) question image\nPlease describe the image shortly. response model.chat(tokenizer, pixel_values, question, dict(max_new_tokens1024, do_sampleTrue)) print(response)完整的单图/多图/视频/批处理/流式输出示例都写在 README.md 的 Quick Start 章节直接照着抄即可。pixel_values来自load_image(./examples/image1.jpg, max_num12)其中max_num12表示最多切 12 个 tile——图片越复杂文字密、细节多可以调大简单场景调小能提速。 仓库结构与关键文件导读文件作用README.md模型家族总览、示例代码、部署教程建议通读config.json模型配置max_dynamic_patch: 12、448 动态分辨率、双塔参数modeling_internvl_chat.py对话主逻辑chat/batch_chat实现在这里modeling_intern_vit.pyInternViT-6B 视觉编码器源码modeling_internlm2.pyInternLM 2.5 语言模型源码conversation.py对话模板定义preprocessor_config.json图像预处理参数tokenizer_config.json、tokenizer.model分词器配置与模型文件model.safetensors.index.json11 个权重分片的映射索引❓ 常见问题 FAQ问26B 和 78B 差距大吗值得多花 3 倍显存吗78B 在数学推理、复杂图表等强推理任务上优势明显日常图像描述、文档 OCR、视频问答26B 已经足够好性价比最高。问8B 和 26B 差在哪8B 用的是 3 亿参数的 InternViT-300M 视觉编码器26B 则升级到 60 亿参数的 InternViT-6B高分辨率细节、小字识别、多图像任务的提升最直观。问可以做微调吗可以。InternVL 官方训练仓库以及 SWIFT、XTuner 等社区框架都已支持 InternVL 系列微调本仓库也提供了use_backbone_lora、use_llm_lora等 LoRA 相关配置项见 config.json。问许可证是什么项目整体采用 MIT License 发布可自由商用其中 InternLM 2.5 20B 组件为 Apache License 2.0。✅ 选型结论4~8 GB 显存选 InternVL2_5-1B / 2B轻量尝鲜16~24 GB 显存RTX 4090 等InternVL2_5-8B 是最佳选择80G A100 单卡直接用本文主角 InternVL2_5-26B开源多模态的性能甜点多卡集群追求上限上 InternVL2_5-78B或先用 38B 过渡。按显存对号入座剩下的交给 README 里的示例代码10 分钟就能跑起来你的第一个多模态应用。赞分享【免费下载链接】InternVL2_5-26B项目地址https://ai.gitcode.com/OpenGVLab/InternVL2_5-26B点击查看免费下载相关推荐InternVL2_5-78B-MPO是什么开源多模态大模型MPO系列7分钟入门完整指南InternVL2_5 78B MPO是什么开源多模态大模型MPO系列7分钟入门完整指南 InternVL2_5 78B MPO 是 OpenGVLab 推出InternVL2_5-26B完整指南为什么这款26B开源多模态大模型值得你本地部署InternVL2_5 26B完整指南为什么这款26B开源多模态大模型值得你本地部署 InternVL2_5 26B 是 OpenGVLab 推出的开源多模态从InternImage-T到InternImage-G怎么选InternImage模型家族全系对比与选型指南从InternImage T到InternImage G怎么选InternImage模型家族全系对比与选型指南 本文以 internimage_g_joint上一篇【免费下载】 OpenCV4Node.js安装与配置指南下一篇从文本到视频DeepSeek-V4-Pro-Qwen3.5-4B-8bit全模态能力实战指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
阅读完成 · 觉得有帮助？
