算法论文8

上海大学团队：VLM剪枝attention去偏新方案

新智元2026-01-30

AI 摘要

上海大学曾丹团队：常用attention机制有偏，影响剪枝效果。我们提出无需重训练的去偏方法，集成到6种主流剪枝法，在多基准测试中提升性能，为多模态模型部署提供新思路。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

紫东太初GMC：少80%Token保多模态能力

视觉Token冗余是多模态模型高效推理与落地的瓶颈，传统筛选方法有缺陷。紫东太初团队提出GMC核心集剪枝方法，具双阶段架构，优势多，实验显示其能在减少Token同时保持性能。

8月，阿里「千问办公」开启公测，它整合三款产品，还接入最新旗舰Qwen3.8 - Max。该产品交付成果可用，可一站生成多模态内容和Office产物，与钉钉打通且有组织级Skill，优势明显。

本文实测Agnes AI，指出AI编程瓶颈在于缓存命中率，而非模型智商。介绍其产品线、评测成绩与价格优势，还分享客户端体验，包括亮点、回滚事故及日志结论，最后点明智能免费后验证更稀缺。

Fable 5在AI圈爆火，但使用成本比其他型号贵至少5倍。pxpipe项目把适合压缩的大段文本渲染成PNG图片，交给多模态模型读取，能大幅降低成本，还能增加上下文长度。