本文介绍了ViCToR一种面向大型多模态模型LMMs的新型预训练框架旨在解决语言嵌入稳定而视觉表征易受上下文噪声影响的问题。ViCToR通过引入视觉理解阶段采用可学习的视觉token池和匈牙利匹配算法结合视觉token重建损失与密集语义监督提升大语言模型对视觉信息的理解能力。实验证明ViCToR在多个基准测试中取得了SOTA性能为多模态大模型的发展提供了新的思路。1、过去的多模态预训练方法如何让LLM更好的理解视觉特征这是多模态大模型在设计之初就需要思考的问题。OpenAI在CLIP中首次提出了通过对比学习方法直接让视觉编码器对视觉的理解对齐人类语义。在有了对齐人类语义的视觉编码器之后BLIP和LLaVA等工作开始尝试将视觉编码器与大语言模型连接到一起试图让LLM长出眼睛看懂世界BLIP和LLaVA自设计之初开始就在思考如何将视觉特征映射到文本空间中去让LLM更好的理解视觉。LLaVA通过两层线性层的简单模块设计取得了卓越的效果对后面许多的工作产生了深远的影响。人们发现只要简单的维度映射模块和短caption的数据就能让LLM对视觉内容有着初步的认知。加之以精心挑选的VQA数据进行微调就能得到看懂世界的多模态大模型。随着研究的不断丰富人们进一步发现似乎可以制作大量的caption数据从而保证LLM更加全面的理解视觉并持续带来了能力的提升。随着行业的不断发展人们对于多模态大模型的普遍预训练的认知就是简单的模块将视觉特征映射到语言特征空间中辅以尽可能多的caption数据来提升视觉认知能力。2、视觉和语言之间存在怎样的Gap但是让我们回归本质视觉和语言从本质的信息组成上他们究竟有怎样的Gap首先语言作为由人类创造的用于对世界知识进行凝练抽象化和个人思想表达的信息媒介其被在任意地方记录时总会带着一定的前后因果与丰富的有效信息。学术界与工业界可以尽可能收集这些语言数据并在海量的数据上进行大规模的自回归训练得到现如今能力强悍的大语言模型。因此语言的信息往往具有两个非常显著的特点有限离散与因果。相对而言自数字媒体技术发明以来图片这种信息媒介开始大量出现。相比于人们在进行书写时候的慎重表达人们对于按下快门这件事似乎并没有那么慎重。大量的随意拍摄的图片在人类社会传播物体与物体之间几乎可以有数不清的任意组合形式出现在图像中。因此图片中的不同元素的组合往往是空间拼接的而非前后因果的。除此之外相对于语言对物体的抽象表达同一类事物在图片中的表现又有无数种。因此图片的特征空间其实是连续且无限的。因此从本质上来说视觉语言之间始终有两条巨大的鸿沟——无限与有限、前后因果与空间拼接。3、ViCToR让LLM更懂视觉的多模态预训练方法为了弥补视觉与语言之间的模态鸿沟ViCToR通过视觉特征重建与VTP模块来让LLM更好的理解视觉特征。首先为了让LLM理解视觉信息的组织形式是空间上的拼接而非前后因果关系ViCToR通过随机mask的方式保证LLM只能看到空间上离散的视觉特征。再利用特征级别的重建促使LLM通过上下左右的可见的视觉特征“想象”中间的视觉特征的形式。其次由于视觉特征空间是无限的为了让LLM主动总结视觉特征的类别。ViCToR提出了一种VTP组件随机初始化N个可学习的视觉特征并在将视觉特征喂给LLM之前对部分的视觉特征从N个可学习的视觉特征中选择最相近的部分特征进行替换。利用此方式LLM会不断优化VTP组件中的N个视觉特征形成对视觉特征的总结与抽象。除此之外ViCToR还提出此方式只需要作用于stage 1.5可以促使图片的caption和视觉重建任务相辅相成以较低的成本实现更佳的预训练效果。4、实验ViCToR-7B基于SigLip2和Qwen2.5-7B的预训练模型在3m预训练数据和780k结构化微调数据上训练出超越了近似量级的多个SOTA模型。并且为了在相对公平的情况下体现ViCToR与其他预训练方法的高效性研究团队还控制了视觉基座、预训练数据等多个setting相同或劣势于其他的方法进行了比较实验。通过对不同图片中的视觉特征与VTP中的N个训练后的特征进行聚类研究团队可视化了VTP对视觉内容强大的抽象能力。总结在当前业界普遍采用堆数据暴力升级的方式下ViCToR从模态信息组织差异的本质入手似乎能更好的解释为什么当前的多模态发展瓶颈。这启发了后面的相关工作应当更加关注信息本质让模型的训练能够符合原本的信息特点。这或许也是为什么主流LLM总是自回归的因果mask attention而ViT总是双向可见的attention的原因。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取
收藏！小白程序员必看：ViCToR如何让大模型更好地理解视觉信息
本文介绍了ViCToR一种面向大型多模态模型LMMs的新型预训练框架旨在解决语言嵌入稳定而视觉表征易受上下文噪声影响的问题。ViCToR通过引入视觉理解阶段采用可学习的视觉token池和匈牙利匹配算法结合视觉token重建损失与密集语义监督提升大语言模型对视觉信息的理解能力。实验证明ViCToR在多个基准测试中取得了SOTA性能为多模态大模型的发展提供了新的思路。1、过去的多模态预训练方法如何让LLM更好的理解视觉特征这是多模态大模型在设计之初就需要思考的问题。OpenAI在CLIP中首次提出了通过对比学习方法直接让视觉编码器对视觉的理解对齐人类语义。在有了对齐人类语义的视觉编码器之后BLIP和LLaVA等工作开始尝试将视觉编码器与大语言模型连接到一起试图让LLM长出眼睛看懂世界BLIP和LLaVA自设计之初开始就在思考如何将视觉特征映射到文本空间中去让LLM更好的理解视觉。LLaVA通过两层线性层的简单模块设计取得了卓越的效果对后面许多的工作产生了深远的影响。人们发现只要简单的维度映射模块和短caption的数据就能让LLM对视觉内容有着初步的认知。加之以精心挑选的VQA数据进行微调就能得到看懂世界的多模态大模型。随着研究的不断丰富人们进一步发现似乎可以制作大量的caption数据从而保证LLM更加全面的理解视觉并持续带来了能力的提升。随着行业的不断发展人们对于多模态大模型的普遍预训练的认知就是简单的模块将视觉特征映射到语言特征空间中辅以尽可能多的caption数据来提升视觉认知能力。2、视觉和语言之间存在怎样的Gap但是让我们回归本质视觉和语言从本质的信息组成上他们究竟有怎样的Gap首先语言作为由人类创造的用于对世界知识进行凝练抽象化和个人思想表达的信息媒介其被在任意地方记录时总会带着一定的前后因果与丰富的有效信息。学术界与工业界可以尽可能收集这些语言数据并在海量的数据上进行大规模的自回归训练得到现如今能力强悍的大语言模型。因此语言的信息往往具有两个非常显著的特点有限离散与因果。相对而言自数字媒体技术发明以来图片这种信息媒介开始大量出现。相比于人们在进行书写时候的慎重表达人们对于按下快门这件事似乎并没有那么慎重。大量的随意拍摄的图片在人类社会传播物体与物体之间几乎可以有数不清的任意组合形式出现在图像中。因此图片中的不同元素的组合往往是空间拼接的而非前后因果的。除此之外相对于语言对物体的抽象表达同一类事物在图片中的表现又有无数种。因此图片的特征空间其实是连续且无限的。因此从本质上来说视觉语言之间始终有两条巨大的鸿沟——无限与有限、前后因果与空间拼接。3、ViCToR让LLM更懂视觉的多模态预训练方法为了弥补视觉与语言之间的模态鸿沟ViCToR通过视觉特征重建与VTP模块来让LLM更好的理解视觉特征。首先为了让LLM理解视觉信息的组织形式是空间上的拼接而非前后因果关系ViCToR通过随机mask的方式保证LLM只能看到空间上离散的视觉特征。再利用特征级别的重建促使LLM通过上下左右的可见的视觉特征“想象”中间的视觉特征的形式。其次由于视觉特征空间是无限的为了让LLM主动总结视觉特征的类别。ViCToR提出了一种VTP组件随机初始化N个可学习的视觉特征并在将视觉特征喂给LLM之前对部分的视觉特征从N个可学习的视觉特征中选择最相近的部分特征进行替换。利用此方式LLM会不断优化VTP组件中的N个视觉特征形成对视觉特征的总结与抽象。除此之外ViCToR还提出此方式只需要作用于stage 1.5可以促使图片的caption和视觉重建任务相辅相成以较低的成本实现更佳的预训练效果。4、实验ViCToR-7B基于SigLip2和Qwen2.5-7B的预训练模型在3m预训练数据和780k结构化微调数据上训练出超越了近似量级的多个SOTA模型。并且为了在相对公平的情况下体现ViCToR与其他预训练方法的高效性研究团队还控制了视觉基座、预训练数据等多个setting相同或劣势于其他的方法进行了比较实验。通过对不同图片中的视觉特征与VTP中的N个训练后的特征进行聚类研究团队可视化了VTP对视觉内容强大的抽象能力。总结在当前业界普遍采用堆数据暴力升级的方式下ViCToR从模态信息组织差异的本质入手似乎能更好的解释为什么当前的多模态发展瓶颈。这启发了后面的相关工作应当更加关注信息本质让模型的训练能够符合原本的信息特点。这或许也是为什么主流LLM总是自回归的因果mask attention而ViT总是双向可见的attention的原因。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线科技企业深耕十二载见证过太多因技术卡位而跃迁的案例。那些率先拥抱 AI 的同事早已在效率与薪资上形成代际优势我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在大模型的学习中的很多困惑。我们整理出这套AI 大模型突围资料包✅ 从零到一的 AI 学习路径图✅ 大模型调优实战手册附医疗/金融等大厂真实案例✅ 百度/阿里专家闭门录播课✅ 大模型当下最新行业报告✅ 真实大厂面试真题✅ 2026 最新岗位需求图谱所有资料 ⚡️ 朋友们如果有需要《AI大模型入门进阶学习资源包》下方扫码获取~① 全套AI大模型应用开发视频教程包含提示工程、RAG、LangChain、Agent、模型微调与部署、DeepSeek等技术点② 大模型系统化学习路线作为学习AI大模型技术的新手方向至关重要。 正确的学习路线可以为你节省时间少走弯路方向不对努力白费。这里我给大家准备了一份最科学最系统的学习成长路线图和学习规划带你从零基础入门到精通③ 大模型学习书籍文档学习AI大模型离不开书籍文档我精选了一系列大模型技术的书籍和学习文档电子版它们由领域内的顶尖专家撰写内容全面、深入、详尽为你学习大模型提供坚实的理论基础。④ AI大模型最新行业报告2025最新行业报告针对不同行业的现状、趋势、问题、机会等进行系统地调研和评估以了解哪些行业更适合引入大模型的技术和应用以及在哪些方面可以发挥大模型的优势。⑤ 大模型项目实战配套源码学以致用在项目实战中检验和巩固你所学到的知识同时为你找工作就业和职业发展打下坚实的基础。⑥ 大模型大厂面试真题面试不仅是技术的较量更需要充分的准备。在你已经掌握了大模型技术之后就需要开始准备面试我精心整理了一份大模型面试题库涵盖当前面试中可能遇到的各种技术问题让你在面试中游刃有余。以上资料如何领取为什么大家都在学大模型最近科技巨头英特尔宣布裁员2万人传统岗位不断缩减但AI相关技术岗疯狂扩招有3-5年经验大厂薪资就能给到50K*20薪不出1年“有AI项目经验”将成为投递简历的门槛。风口之下与其像“温水煮青蛙”一样坐等被行业淘汰不如先人一步掌握AI大模型原理应用技术项目实操经验“顺风”翻盘这些资料真的有用吗这份资料由我和鲁为民博士(北京清华大学学士和美国加州理工学院博士)共同整理现任上海殷泊信息科技CEO其创立的MoPaaS云平台获Forrester全球’强劲表现者’认证服务航天科工、国家电网等1000企业以第一作者在IEEE Transactions发表论文50篇获NASA JPL火星探测系统强化学习专利等35项中美专利。本套AI大模型课程由清华大学-加州理工双料博士、吴文俊人工智能奖得主鲁为民教授领衔研发。资料内容涵盖了从入门到进阶的各类视频教程和实战项目无论你是小白还是有些技术基础的技术人员这份资料都绝对能帮助你提升薪资待遇转行大模型岗位。以上全套大模型资料如何领取
