InternVL2-26B是 OpenGVLab 开源的指令微调多模态大语言模型（VLM），能看图说话、读懂文档图表、做 OCR 文字识别和理解视频，多项能力对标 GPT-4V。本文带你 10 分钟认识它的架构、性能与上手方法，适合新手和普通用户。

🧩 InternVL2-26B 是什么？

InternVL2-26B 是 InternVL 2.0 系列中的 26B 规格模型（实际参数约 25.5B），由三部分组成：

它的核心特点：

• 8k 上下文窗口，训练数据包含长文本、多图片和视频；
• 动态分辨率处理：图片会被切成 448×448 的图块（最多 12 块 + 一张缩略图），细节再多的图也不丢信息；
• 支持纯文本对话、单图/多图对话、视频理解、目标定位（输出 bounding box 坐标）；
• MIT 协议开源，可自由商用。

上图中这只趴在木箱上的小熊猫，就是仓库自带的示例图片 examples/image1.jpg——把它喂给模型，它就能回答"小熊猫在做什么"这类问题。

📊 性能有多强？和 GPT-4V 差多远？

官方在主流基准上的表现（节选自 README.md）：

可以看到：在文档、图表、OCR 这类"看字"任务上，InternVL2-26B 已经反超 GPT-4T；在 MMMU 等需要强综合推理的测试上与 GPT-4T 仍有差距。简单说：处理扫描件、报表、图表、中英混排文字，它是开源阵营里的第一梯队。

🚀 快速上手：10 分钟跑起来

硬件要求（先对号入座）

第一步：获取模型

git clone https://gitcode.com/OpenGVLab/InternVL2-26B

也可以直接在代码中写模型路径"OpenGVLab/InternVL2-26B"让 transformers 自动下载。仓库关键文件一览：

• config.json：模型结构配置，force_image_size: 448、max_dynamic_patch: 12就是动态分辨率的核心参数；
• modeling_internvl_chat.py：主模型类InternVLChatModel，定义视觉塔 + 投影层 + 语言模型的拼装方式；
• modeling_intern_vit.py：视觉编码器实现；
• modeling_internlm2.py：语言模型实现；
• tokenizer.model、conversation.py：分词器与对话模板；
• model-00001-of-00011.safetensors等 11 个分片：模型权重文件。

第二步：加载模型（3 行核心代码）

环境要求transformers>=4.37.2，加载时务必带trust_remote_code=True：

import torch from transformers import AutoTokenizer, AutoModel model = AutoModel.from_pretrained( "OpenGVLab/InternVL2-26B", torch_dtype=torch.bfloat16, low_cpu_mem_usage=True, use_flash_attn=True, trust_remote_code=True).eval().cuda() tokenizer = AutoTokenizer.from_pretrained("OpenGVLab/InternVL2-26B", trust_remote_code=True, use_fast=False)

显存不够时，把use_flash_attn=True换成load_in_8bit=True即可 8-bit 量化加载；多卡部署则参考 README.md 中 "Multiple GPUs" 一节的split_model方案。

第三步：问它第一句话

from transformers import AutoModel, AutoTokenizer # 加载图片（动态分辨率切图 + 归一化） pixel_values = load_image("./examples/image1.jpg", max_num=12).to(torch.bfloat16).cuda() question = "<image>\n请用中文描述这张图片。" response = model.chat(tokenizer, pixel_values, question, dict(max_new_tokens=1024, do_sample=True)) print(response)

其中load_image的完整实现（含dynamic_preprocess动态切图逻辑）在 README.md 的 "Inference with Transformers" 一节，照着复制即可。图片加载参数细节可参考 preprocessor_config.json。

🎯 三大实用场景

场景一：文档与图表问答。拍一张发票、报表或论文截图，问"表格里 Q3 营收是多少？"，OCR 能力让它成为开源里最靠谱的"读图助手"之一。

场景二：多图对比。把两张图的pixel_values拼接后一次传入，或用Image-1: <image> / Image-2: <image>的编号方式独立传入，让模型做"找不同"。

场景三：视频理解。视频按帧采样（如 8~32 帧，每帧 448×448），每帧前面加FrameN: <image>前缀即可提问，例如"这只红熊猫在做什么？"——仓库示例视频examples/red-panda.mp4对应的就是这个场景。

💡 提示：多轮对话只需把上次的history传回model.chat(...)；批量处理用model.batch_chat(...)。

📦 部署与微调

• 生产部署：推荐 LMDeploy 生态内的 Turbomind 引擎（pip install lmdeploy>=0.5.3），一条命令lmdeploy serve api_server OpenGVLab/InternVL2-26B --server-port 23333就能提供兼容 OpenAI 接口的 REST 服务，前端代码可无缝复用；
• 微调：SWIFT、XTuner、InternVL 官方仓库均支持对 InternVL 系列做 LoRA 或全参微调，按各自文档操作即可；
• 流式输出：用TextIteratorStreamer+ 线程即可实现打字机效果，README 已附完整示例。

❓ 新手常见疑问

问：普通消费级显卡能跑吗？25.5B 参数 bf16 权重就约 50GB，24G 单卡较吃力。建议：8-bit 量化后双卡 24G，或 4-bit 量化（社区方案）尝试单卡，速度会牺牲一些。

问：为什么要trust_remote_code=True？InternVL 系列自带自定义建模代码（如 modeling_internvl_chat.py），transformers 需要加载仓库内的 Python 文件才能实例化模型，这是"自定义代码"模型标签的来源。

问：和 InternVL 1.5 比提升了什么？2.0 用 8k 上下文重训，并加入长文本、多图、视频数据，长输入和多图/视频场景明显改善；且同规格下在 OCR、文档基准上普遍更高。

✅ 小结

InternVL2-26B 是一款开源、MIT 协议、文档图表 OCR 能力对标甚至反超 GPT-4V的多模态大模型。如果你有"让 AI 看懂扫描件、图表和截图"的需求，它目前是性价比极高的选择：单张 80G 卡全精度直跑，双卡 24G 量化部署，transformers三行代码即可加载。下一步建议：先跑通单图对话，再接入 LMDeploy 服务，最后按需微调。