算法论文8

纽约大学QSVD让VLM更小更快更准

AIGC开放社区2025-11-17

AI 摘要

纽约大学研究团队提出QSVD方法，将Q、K、V矩阵捆绑处理，设计秩分配策略并引入量化方案。经多模型评估，QSVD以低硬件成本获高精度，在普通GPU上实现13.1倍加速，助力VLM平民化。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

金煜阳：大模型推理加速全链路方案揭秘

本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。

浙大陈静远教授课题组等提出自适应非对称适配器，放弃对图像分支硬性微调，引入预测置信度自动给视觉塔‘踩刹车’。经实验总结出微调三大核心洞察，在多个数据集测试中表现优异。

近期，新加坡国立大学等团队提出 DOPD 法解「特权幻觉」难题。该法依 token 情况动态蒸馏，实验表明其在 LLM、VLM 蒸馏效果好，鲁棒性强，训练稳定，为在线策略蒸馏提供新思路。

哈萨克斯坦团队论文对比CNN和用LoRA微调的VLM在乳腺癌病理分类上的表现。指出VLM微调后接近CNN水平，但CNN仍是王者。还介绍LoRA原理、实验设计、结果，给出实战代码及对从业者和研究者的启示。