算法论文8

V²Drop实现VLM无损加速1.87倍

机器之心2026-03-15

AI 摘要

四川大学陈骏杰、刘旭洋团队：高分辨率图像与长视频处理需求下，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token变化量出发，采用多阶段剪枝，实现无损加速，图像和视频理解场景表现佳。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Token压缩率飙升60% 大模型分词革新

当前大模型效率优化多聚焦降低单位Token计算存储开销，本文解读arXiv新预印论文，针对传统BPE分词的固有局限，提出CNF-MCE分词框架，可大幅提升Token压缩率，开辟大模型效率优化新路径。

强化学习与可验证奖励提升视觉语言模型推理能力，但存在答案奖励只知对错、不知证据区域问题。哈工大等团队提出EASE，把标注证据区转为目标分布，监督空间注意力，推理无额外标注，实验成绩优异。

2026年7月ICML大会上，小米MiMo团队负责人罗福莉介绍MiMo - V2.5系列。该系列跳出传统思路，从架构、训练、推理协同设计，实现“聪明、快速、便宜”，如预训练降成本、后训练有硬核算法、推理加速达1000 TPS。

外网大神周末开源插件，将模型上下文等渲染成图片，可让账单降低59% - 70%。原理是图片token只与像素尺寸有关。此前因模型识图能力差难落地，fable5证明其极限省钱且效果保留。