「视觉token剪枝」共找到 1247 篇相关文章
AI打通第一/第三人称视觉，跨视角视觉理解新SOTA｜ICCV 2025 Highlight
INSAIT、复旦大学等联合提出ObjectRelator框架，让AI精准匹配不同视角下同一物体，实现跨视角统一表征与理解。它在Ego转Exo和Exo转Ego任务上超基线模型，已被ICCV 2025接收，代码开源。
Meta&CMU：Token级LLM协同路由新范式
Meta AI、CMU等联合推出FusionRoute，是让多个大模型在token级协作的新范式。它能在每个token位置精准选专家，自带“急救包”。经实验验证其高效，也指出了待研究的方向。
Google封神，计算机视觉的GPT3时刻来了！
Google Deepmind称在CV领域做出类似GPT-3的成果，Veo 3经大规模训练涌现通用视觉理解和推理能力，能以图片+提示词完成复杂视觉任务，还具备感知、建模等四大超能力。
OpenVision 2：大道至简的生成式预训练视觉编码器
多模态大模型浪潮中，视觉模块是关键。此前OpenVision训练管线复杂，成本高。研究者提出OpenVision 2，移除文本编码器与对比学习，引入随机丢弃视觉token技巧，性能佳且效率高，挑战了对比学习范式。
阿里成立Token Hub事业群，打碎钉钉，做成龙虾！
阿里巴巴成立Alibaba Token Hub事业群，首席执行官吴泳铭挂帅。旗下设5大事业部，目标是创造、输送和应用Token。还发布企业级旗舰应用悟空，重写底层架构，打造专属文件系统与Skill生态，展示多款智能硬件。
「Tokens是胡扯」，Mamba作者抛出颠覆性观点，揭露Transformer深层缺陷
Mamba作者Albert Gu在博客中探讨状态空间模型（SSM）和Transformer权衡，抛出‘Tokens是胡扯’观点，揭露Transformer深层缺陷，如分词问题、处理噪声能力弱等，还分析两类模型特点及结合优势。
刚刚，DeepSeek多模态技术范式公布，以视觉原语思考
DeepSeek发布多模态模型并公布技术报告，提出‘以视觉原语思考’。该模型解决多模态大模型‘指代鸿沟’问题，有把坐标变思维单元、7056倍视觉压缩、精心设计冷启动数据等创新，实验在多任务上超主流模型。
巧妙！一个传统技术让国产视觉基础模型直接上大分
格灵深瞳的Glint - MVT视觉基础模型表现出色，线性探测准确率高于CLIP等，下游任务效果佳。其引入间隔Softmax损失函数，结合虚拟类别构造等优化方案提升性能，团队专注视觉研发，务实开放。
Being-VL的视觉BPE路线：把「看」和「说」真正统一起来
北大、UC San Diego 和 BeingBeyond 联合提出 Being-VL 的视觉 BPE 路线，先将图像离散化并「分词」，再与文本统一建模，能缩短跨模态链路、保留视觉结构先验，还介绍了实现步骤、训练方式等。
吴恩达新作：87%推理token用不着，丢掉反而快3倍
吴恩达新作Prefix Sliding指出，模型推理时丢弃中间已贬值token，只保留前缀+滑动窗口，无需训练可提速3倍，配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。