算法论文8

上大团队：Attention机制暗藏「骗局」需修正

量子位2026-01-27

AI 摘要

上海大学曾丹团队研究指出，多模态大模型中Attention受结构性偏置影响，直接用于视觉token剪枝会误导模型。团队用公式去偏，集成到多种剪枝方法，不增加训练成本，提升了模型性能。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

阿里发布新一代多模态大模型家族

本文围绕云栖大会阿里巴巴发布的新一代多模态生成模型家族展开，介绍多模态大模型的技术演进方向，分析其对专业内容生产领域的改变与落地价值。

上海人工智能实验室在2026浦江创新论坛发布开源基础大模型书生-S2，该模型科学能力比肩顶尖闭源模型，通用能力居开源第一梯队，创新架构支持专业知识持续扩展，强化长程科研与智能体能力，可为真实科研任务提供支撑。

本文介绍蚂蚁百灵开源的多模态大模型Ling-3.0-flash-VL，该模型采用稀疏混合专家架构，支持图片、视频、软件界面理解，可将视觉信息用于推理与任务执行，开放权重采用MIT许可证供开发者部署测试。

本文是DeeplearningAI The Batch专栏的AI行业资讯，揭秘此前匿名上线爆火的Ox Alpha模型，公开其为Z.ai推出的GLM-5.3-Flash，详细介绍该模型的架构、性能、定价与授权信息。