【免费下载链接】Video_Encoders_for_Training_VideoChat-Flash
Video_Encoders_for_Training_VideoChat-Flash是 OpenGVLab 开源的视频编码器权重仓库,为训练 VideoChat-Flash(分层视频大模型)提供现成的视觉塔(vision tower)权重。仓库基于Apache-2.0 许可,包含InternVideo2-1B与UMT-L两份编码器文件。本文带你 5 分钟看懂:许可边界、技术报告来源、完整下载步骤,以及周边相关仓库地图。
📦 仓库里有什么:两份视频编码器权重
整个仓库非常精简,核心就是两个.pt权重文件(均通过 Git LFS 存储大文件):
| 文件 | 实际大小 | 来源 | 说明 |
|---|---|---|---|
| InternVideo2-1B_f4_vision.pt | 约 2.63 GB(2,820,352,127 字节) | InternVideo2-1B | 1B 规模视觉编码器,4 帧输入 |
| UMT-L_f4_vision.pt | 约 1.15 GB(1,231,341,693 字节) | UMT-L | 统一多模态 Transformer 的大号变体,4 帧输入 |
文件命名规律:<编码器名>_f4_vision.pt
f4表示以4 帧作为视频输入,对应 VideoChat-Flash 的帧采样策略;vision表示这是视觉塔(vision tower)部分的权重,训练时通常冻结或对齐使用,而非语言模型部分。
另外两个辅助文件:
- README.md:仓库说明与许可声明,其中 第 2 行 声明了
license: apache-2.0; - .gitattributes:LFS 规则配置,第 22-23 行 将
.pt/.pth扩展名映射到 Git LFS。
🔑 Apache-2.0 许可:你可以怎么使用
仓库在 README.md 的 frontmatter 中明确声明许可为Apache-2.0,这是目前最宽松的开源许可之一,对新手非常友好:
- ✅可自由使用:训练、推理、二次开发,个人和商业项目均可;
- ✅可修改、再分发:允许你改动权重或配套代码后再次分发;
- ✅专利授权:贡献者授予使用者相关专利的使用权,避免专利诉讼风险;
- ⚠️义务:保留原始版权与许可声明(NOTICE/版权声明),修改部分需注明。
💡 简单说:放心拿去训练你的视频大模型,只要保留版权声明即可。
📄 技术报告与延伸阅读
本仓库本身不含论文 PDF,技术细节请查阅 arXiv 上的对应报告(在 arXiv 站内搜索项目名即可,仓库内不附带论文链接):
- VideoChat-Flash:本仓库服务的主体项目,提出分层视频 LLM 与语义帧采样框架,
f4权重即为该框架的视觉编码输入; - InternVideo2:InternVideo2-1B 编码器的原始报告,介绍多模态视频基础模型的预训练方法;
- UMT: A Unified Multimodal Transformer:UMT-L 编码器的来源,讲解统一多模态 Transformer 的图文视频一体化训练。
建议阅读顺序:先看 VideoChat-Flash 报告了解整体架构 → 再看两个编码器报告理解视觉塔细节。
🗺️ 相关仓库地图
以下是 OpenGVLab 生态中与本仓库直接相关的项目(均为文字索引,可在 arXiv 或代码托管平台搜索项目名获取):
| 项目 | 角色 | 与本仓库的关系 |
|---|---|---|
| VideoChat-Flash | 视频聊天 LLM 主体 | 使用本仓库的编码器作为视觉输入端 |
| InternVideo2 | 视频基础模型 | 提供InternVideo2-1B_f4_vision.pt |
| UMT | 统一多模态 Transformer | 提供UMT-L_f4_vision.pt |
| InternVL 系列 | 图文多模态模型 | 同组织(OpenGVLab)的兄弟项目,技术栈相近 |
🧭 使用建议:如果你训练多模态视频模型,按「编码器仓库(本仓库)+ 主模型仓库(VideoChat-Flash)」组合使用即可,本仓库提供视觉端,主模型仓库提供语言端与训练代码。
🔧 完整下载步骤(Git LFS 正确姿势)
⚠️新手最常见坑:直接git clone后看到的.pt文件只有约 135 字节——那不是模型,而是Git LFS 指针文件(内容为 LFS 指针格式,内含 sha256 与真实大小)。拉取真实权重需要额外执行git lfs pull:
# 1. 克隆仓库 git clone https://link.gitcode.com/i/5ac0e0a7b860508f3c58b429cbbdd4d1 cd Video_Encoders_for_Training_VideoChat-Flash # 2. 启用 LFS 并拉取大文件(约 3.8 GB 流量) git lfs install git lfs pull校验完整性:拉取后可用指针文件中记录的哈希比对,例如 InternVideo2-1B 的 sha256 为bd7b798b…d2d560(完整值见 InternVideo2-1B_f4_vision.pt 第 2 行),UMT-L 为2a77aba7…c51a0(见 UMT-L_f4_vision.pt 第 2 行),本地执行sha256sum *.pt核对即可。
📌 为什么用 LFS?见 .gitattributes:仓库把
.pt、.pth、.safetensors、.bin、.onnx等 30 多种大文件扩展名全部映射到 LFS,保证普通 Git 操作不会把数 GB 的权重塞进版本库历史。
📂 文件路径速查表
| 资源 | 相对路径 |
|---|---|
| 仓库说明与许可声明 | README.md |
| LFS 扩展名映射规则 | .gitattributes |
| InternVideo2-1B 视觉编码器(2.63 GB) | InternVideo2-1B_f4_vision.pt |
| UMT-L 视觉编码器(1.15 GB) | UMT-L_f4_vision.pt |
✅ 小结
- 本仓库 =VideoChat-Flash 训练所需的视频编码器权重集合,Apache-2.0 许可可商用;
- 两个
f4权重分别来自 InternVideo2-1B 与 UMT-L,注意用git lfs pull获取完整文件; - 技术报告请在 arXiv 检索 VideoChat-Flash、InternVideo2、UMT 三篇论文,配合 README.md 即可上手。
【免费下载链接】Video_Encoders_for_Training_VideoChat-Flash
相关推荐
Blazor应用部署指南:BootstrapBlazor静态网站托管终极教程
Blazor应用部署指南:BootstrapBlazor静态网站托管终极教程 想要将基于BootstrapBlazor的Blazor应用快速部署到生产环境吗?本
前端UI组件设计系统Qwen3-Coder-480B-A35B-Instruct 技术报告与社区资源
Qwen3 Coder 480B A35B Instruct 技术报告与社区资源 文章概要的内容包括对Qwen3 Coder 480B A35B Instruc
基础模型大模型QwenmultipleWindow3dScene相关生态与社区资源
multipleWindow3dScene相关生态与社区资源 引言:跨窗口3D同步的技术革命 你是否曾设想过在多个浏览器窗口中同步渲染同一个3D场景?当你在一个
前端3D渲染图形学
创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考