2024-01-22 14:21
李开复旗下零一万物发布世界顶尖多模态大模型Yi-VL：开源！视觉多模态测评表现仅次于GPT-4V
李开复零一万物交出多模态视觉大模型答卷，领跑中英文两大权威榜单！
本次测评，距离该公司的首款开源大模型Yi-34B和Yi-6B的发布，仅间隔不到三个月的时间。
这次参与测评的大模型名为Yi Vision Language（Yi-VL），现已正式面向全球开源。新模型同属「Yi」系列，同样具有两个参数版本：Yi-VL-34B和Yi-VL-6B。
先来看两个例子，感受一波Yi-VL在图文对话等多元场景中的表现：
Yi-VL对整幅图做了详细分析，不仅说明了指示牌上的内容，甚至连“天花板”都有照顾到。
中文方面，Yi-VL也能清晰有条理地准确表达：
此外，官方也给出了测试结果：Yi-VL-34B在英文数据集MMMU上准确率41.6%，仅次于准确率55.7%的GPT-4V，超越一系列多模态大模型。
而在中文数据集CMMMU上，Yi-VL-34B准确率36.5%，领先于当前最前沿的开源多模态模型。
Yi-VL基于Yi语言模型研发，可以看到基于Yi语言模型的强大文本理解能力，只需对图片进行对齐，就可以得到不错的多模态视觉语言模型——这也是Yi-VL模型的核心亮点之一。
在架构设计上，Yi-VL模型基于开源LLaVA架构，包含三个主要模块：
图解：Yi-VL模型架构设计和训练方法流程一览
在训练方法上，Yi-VL模型的训练过程分为三个阶段，旨在全面提升模型的视觉和语言处理能力。
第一阶段，使用1亿张的“图像-文本”配对数据集训练ViT和Projection模块。
在这一阶段，图像分辨率被设定为224x224，以增强ViT在特定架构中的知识获取能力，同时实现与大型语言模型的高效对齐。
第二阶段，将ViT的图像分辨率提升至448x448，让模型更加擅长识别复杂的视觉细节。此阶段使用了约2500万“图像-文本”对。
第三阶段，开放整个模型的参数进行训练，目标是提高模型在多模态聊天互动中的表现。训练数据涵盖了多样化的数据源，共约100万“图像-文本”对，确保了数据的广泛性和平衡性。
零一万物技术团队同时也验证了可以基于Yi语言模型强大的语言理解和生成能力，用其他多模态训练方法比如BLIP、Flamingo、EVA等快速训练出能够进行高效图像理解和流畅图文对话的多模态图文模型。
Yi系列模型可以作为多模态模型的基座语言模型，给开源社区提供一个新的选项。同时，零一万物多模态团队正在探索从头开始进行多模态预训练，更快接近、超过GPT-4V，达到世界第一梯队水平。
目前，Yi-VL模型已在Hugging Face、ModelScope等平台上向公众开放，用户可亲身体验这款模型在图文对话等多元场景中的表现。
在全新多模态基准测试MMMU中，Yi-VL-34B、Yi-VL-6B两个版本均有不俗表现。
MMMU（大规模多学科多模态理解和推理）数据集包含了11500个来自六大核心学科，涵盖艺术与设计、商业、科学、健康与医学、人文与社会科学以及技术与工程的问题，涉及高度异构图像类型和交织文本图像信息，对模型的高级知觉和推理能力提出了极高要求。
而Yi-VL-34B在该测试集上以41.6%的准确率，成功超越了一系列多模态大模型，仅次于GPT-4V的55.7%，展现出强大的跨学科知识理解和应用能力。
同样，在针对中文场景打造的CMMMU数据集上，基于本土开发的Yi-VL模型展现了“更懂国人”的独特优势。
CMMMU包含了约12000道源自大学考试、测验和教科书的中文多模态问题。
其中，GPT-4V在该测试集上的准确率为43.7%， Yi-VL-34B以36.5%的准确率紧随其后，领先于当前最前沿的开源多模态模型。
模型项目在线体验地址：
相关文章
近期文章
更多
Kardashian
雷小军
Altman
