ARTICLE · INTELLIGENCE

战地情报 · 详情页

来自尧图项目组的一线实战观察与深度解析

InternVL开源视觉大模型完全指南:6B ViT + 14B多模态架构一文看懂

InternVL开源视觉大模型完全指南:6B ViT + 14B多模态架构一文看懂

【免费下载链接】InternVL

项目地址:https://ai.gitcode.com/OpenGVLab/InternVL
点击查看免费下载

InternVL 是目前最大的开源视觉/视觉-语言基础模型(14B 参数),核心是把 ViT 扩展到6B 参数并与 LLM 对齐,在视觉感知、跨模态检索、多模态对话等任务上取得 32 项 SOTA 成绩。这个仓库(OpenGVLab/InternVL)就是 InternVL 官方 PyTorch 模型权重的下载源,同时还附带了常用多模态评测基准数据集。下面带你一文看懂它的架构、文件结构和快速上手方法。

InternVL 是什么?6B 视觉基础模型 + 14B 多模态模型

InternVL 的核心思路可以拆成两部分:

组件参数量作用
InternViT-6B6B放大版视觉编码器(ViT),输出高质量视觉特征
LLM(如 LLaMA-2 7B)约 7B语言模型,负责理解与生成
InternVL(组合后)14B对齐后的视觉-语言基础模型,支持对话、问答等通用任务

官方在 README.md 中介绍:InternVL 将 ViT 扩展到 6B 参数并与 LLM 对齐,是当时最大的开源视觉/视觉-语言基础模型。对应论文题为InternVL: Scaling up Vision Foundation Models and Aligning for Generic Visual-Linguistic Tasks(引用格式见 README.md#L52-L63)。

仓库结构与核心文件:模型权重在哪?

这个仓库以"模型权重 + 评测数据"为主,没有训练代码。主要文件分三类:

1️⃣ 预训练模型权重(.pth 文件)

权重清单见 README.md#L23-L28,仓库内可直接定位到:

权重文件大小说明
intern_vit_6b_224px.pth12 GBInternViT-6B,224px 输入
intern_vit_6b_224px_head.pth—ImageNet 线性探针分类头
internvl_c_13b_224px.pth25.4 GB对比学习版本权重
intern_vit_6b_448px_v1_0.pth、v1_2、v1_5—448px 高分辨率版本(v1 系列)
intern_vit_6b_448px_v2_5.pth—v2 系列(支持动态分辨率的多模态版本)

2️⃣ 语义分割微调权重(ADE20K)

仓库还提供了 ADE20K 分割任务的完整微调产物,文件名即配置摘要,例如:

  • 线性探针:linear_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5_1of1.pth
  • 头部调优(UperNet + 冻结 backbone):upernet_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5_frozen.pth
  • 全量微调(UperNet):upernet_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5.pth

对应的训练日志(如 upernet_intern_vit_6b_504_80k_ade20k_bs16_lr4e-5.log)也一并收录,方便复现时对照训练曲线。

3️⃣ 多模态评测基准数据集(.jsonl)

这些文件配合 InternVL 做视觉问答(VQA)评测,每条记录包含image、question、answer等字段:

  • seed.jsonl:SEED-Bench 选择题(实例计数、场景理解等),配套图片包 SEED-Bench-image.zip
  • textvqa_val.jsonl / textvqa_val_llava.jsonl:TextVQA 文字识别问答
  • ai2d_test.jsonl / ai2d_test_vlmevalkit.jsonl:AI2D 科学图解理解
  • infographicsvqa_val.jsonl:信息图表问答
  • scienceqa_test_img.jsonl:ScienceQA 科学问答
  • llava-mm-vet.jsonl、mmhal-bench_with_image.jsonl:幻觉检测与开放问答

💡 小提示:仓库的 .gitattributes 配置了 Git LFS 规则,所有*.pth、*.zip等大文件都通过 LFS 存储。直接 clone 后如看到权重文件只有几百字节,说明还没拉取 LFS 真实内容。

如何快速下载并使用 InternVL 权重:完整步骤

拿到权重只需三步:

第一步:clone 仓库

git clone https://gitcode.com/OpenGVLab/InternVL cd InternVL

第二步:启用并拉取 Git LFS 大文件

git lfs install git lfs pull

第三步:加载权重

以 InternViT-6B 为例,用 PyTorch 直接加载:

import torch state_dict = torch.load("intern_vit_6b_224px.pth", map_location="cpu") # 将 state_dict 加载进你的 InternViT-6B 模型结构即可

如果你使用的是 transformers 生态,InternVL 系列权重通常也提供 Hugging Face 格式,可搜索 "OpenGVLab InternVL" 直接from_pretrained加载。

基准性能速览:InternVL 到底强在哪?

ImageNet 系列线性探针分类(README.md#L30-L34):

指标IN-1KIN-ReaLIN-V2IN-AIN-RIN-Sketch
InternViT-6B-224px88.290.479.977.589.869.1

ADE20K 语义分割(README.md#L36-L47):

训练策略头部mIoU
few-shot(仅 1/16 数据)Linear46.5
linear probing(冻结)Linear47.2
head tuning(冻结 + UperNet)UperNet54.9
full tuningUperNet58.9

可以看到,InternViT-6B 仅用 1/16 的数据做线性探针就能拿到 46.5 mIoU,说明其视觉表征泛化能力非常强——这也是"大模型做 few-shot 下游任务"的典型优势。

如何选择合适的模型版本?

  • 只要视觉特征、做分类/分割等下游任务→ 选intern_vit_6b_224px.pth(12 GB,最轻量)
  • 需要高分辨率 / 多模态对话(VQA)→ 选 448px 系列,推荐最新的 intern_vit_6b_448px_v2_5.pth,v2 支持动态分辨率,小图大图都能吃
  • 做对比学习或检索任务→ 选internvl_c_13b_224px.pth(注意 25.4 GB,显存要够)
  • 复现分割实验→ 直接下载对应 ADE20K 检查点并参考同名.log验证结果

许可证与引用

项目采用MIT License(见 README.md#L49-L50),可放心用于商业与科研。若用于研究,建议按 README.md#L56-L63 中的 BibTeX 格式引用论文。

总结:InternVL 用"6B ViT + 7B LLM"的组合拳打出了 14B 级别开源视觉-语言模型的最佳成绩。这个仓库是获取其全部官方权重与评测数据的最佳入口——clone 后记得执行git lfs pull,就能开始你的多模态之旅了 🚀

【免费下载链接】InternVL

项目地址:https://ai.gitcode.com/OpenGVLab/InternVL
点击查看免费下载
上一篇:终极指南:GitHub Actions Runner macOS 14 Sonoma arm64镜像全面更新
下一篇:深入解析actions/runner-images项目中MongoDB安装失败问题

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

RELATED READING

延伸阅读

更多一线实战笔记与深度复盘,助您持续精进