算法论文7

多模态大模型Token压缩技术进展盘点

机器之心2026-01-26

AI 摘要

多模态大模型跨模态融合计算成本高，促使MLLM Token Compression成研究热点。北大等人员按压缩位置分类方法，探讨特定场景策略选择，指出该技术虽有进展，但仍有挑战待研究。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

开源科学大模型书生-S2正式发布

上海人工智能实验室在2026浦江创新论坛发布开源基础大模型书生-S2，该模型科学能力比肩顶尖闭源模型，通用能力居开源第一梯队，创新架构支持专业知识持续扩展，强化长程科研与智能体能力，可为真实科研任务提供支撑。

当前大语言模型长期记忆方案均基于相似度检索，存在结构性盲区，无法在无字面/语义相似时召回关联记忆。腾讯团队提出T-Mem，实现AI联想回忆，已被EMNLP 2026接收，代码开源并上线QQ AI伙伴。

本文是DeeplearningAI《The Batch》的最新报道，汤森路透推出法律、新闻、金融领域定制大语言模型Thomson，基于Qwen构建，性能优于多款通用大模型，小版本将开源供非商业使用。

本文介绍蚂蚁百灵开源的多模态大模型Ling-3.0-flash-VL，该模型采用稀疏混合专家架构，支持图片、视频、软件界面理解，可将视觉信息用于推理与任务执行，开放权重采用MIT许可证供开发者部署测试。