算法论文8
哈工大NaLaFormer让线性注意力显存降92%
AIGC开放社区
AI 摘要
哈工大等团队：发现线性注意力性能差源于查询范数丢失等问题，提出NaLaFormer，在图像分类、超分等多任务验证有效，降内存提效率，为线性注意力发展助力。
阅读原文 · AIGC开放社区
显存暴降92%！哈工大为线性注意力开辟了新道路
哈尔滨工业大学等团队发现线性注意力性能不足根源是查询范数丢失等。基于此提出NaLaFormer，在ImageNet - 1K准确率最高提7.5%，超分任务峰值内存降92.3%，为线性注意力发展开辟新道路。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
编程Agent选工具 20年品牌优势成浮云
本文报道Armature针对编程智能体工具选型的实验研究，揭示编程Agent的选型逻辑，指出传统开发者工具积累的多年品牌优势在Agent时代面临失效，为厂商提出新的优化要求。
InfoQ
推荐文章9
YC CEO：真正AGI就在你电脑里
本文编译YC CEO Garry Tan在2026 Startup School的演讲，近期Meta、OpenAI、Google等巨头集体布局个人AI Agent，Garry Tan提出个人AGI新路线，分享搭建方法，探讨个人认知所有权问题。
InfoQ
新闻资讯8
陶哲轩发声：必须放缓AI发展
菲尔兹奖得主陶哲轩发声呼吁放缓AI发展，其博客引发数学界关于AI冲击下传统研究体系存亡的大辩论，探讨数学界的转型出路。
新智元
开源动态9
Agnes AI开源万物共脑技术体系
物理AI是当前AI产业热门方向，AI走出屏幕需要模型、执行系统与物理连接。Agnes AI此次开源Agent执行基础设施AGH与MHS设备协议，升级Agnes 3.0 Pro大模型，实现AI向物理世界延伸。
新智元