「注意力去偏」共找到 443 篇相关文章
一夜颠覆Sora神话，H200单卡5秒出片！全华人团队开源AI引爆视频圈
UCSD等机构发布FastWan系模型，用「稀疏蒸馏」训练方案，让视频去噪速度飙升70倍。FastWan在单张H200上5秒生成480p视频，模型权重等全开源，改写AI视频生成格局。
4.3亿听障人士的福音，哥大团队研发脑控助听器，最高增益12分贝
哥伦比亚大学等机构团队研发实时闭环脑控听力系统，发表于Nature Neuroscience。该系统解码大脑注意力信号，放大目标人声、压制杂音，打破传统助听器瓶颈。经多项测试，效果显著，临床应用潜力大。
马斯克惊叹！DeepSeek和Kimi先后出手，捅破了Transformer的「潜规则」！
文章介绍了DeepSeek和Kimi在残差连接上的突破。DeepSeek让连接权重可学习，用数学约束保证稳定性；Kimi将注意力机制用于层间连接，解决了更根本的问题，性能提升显著。
被高薪吸引却遭愚弄！科学家怒曝AI科研黑幕：多为个人“捞金”，DeepMind百万成果是“垃圾”
物理学家 Nick McGreivy 分享应用 AI 做研究的经历，指出 AI 方法在解决偏微分方程上远不如宣传，如 PINN 效果差。还提到 DeepMind 成果遭质疑，研究存在数据泄露、报告偏差等问题，AI 加速科学或被夸大。
全新开源视频换装框架MagicTryOn
现有视频虚拟试穿（VVT）方法在时空一致性和服装内容保留方面有挑战，浙大提出全新开源视频换装框架MagicTryOn，利用全自注意力机制统一时空建模，设计服装保留策略，还引入掩码感知损失。
研究者尝试揭示扩散模型创造力的起源
斯坦福大学研究人员 Mason Kamb 与 Surya Ganguli 在论文中提出解释扩散模型创造力的机制，指出其创造力是去噪生成图像时的确定性结果，还识别出关键偏置，搭建 ELS 机模型并验证其准确性。
北大DeepSeek论文或预定ACL Best Paper！梁文锋署名
北大DeepSeek联合发布的NSA论文已被ACL 2025录用且评分高，有望冲击最佳论文。该技术革新传统注意力机制，提升算力效率，是长文本处理的突破。此外，张铭教授团队还有多篇论文上榜。
AI提效20%，我们程序员加班却越来越狠：老板量生产力的尺子，歪了？
文章指出 AI 虽提升编码效率，但整体提效有限，企业衡量开发者生产力的指标易走偏。不同行业对 AI 应用态度不同，企业需合理管理 AI 成本，未来人的价值体现在复杂工作中。
谷歌Gemma 4全系开源：3.8亿激活超越20倍体量模型，手机秒变AI工作站
谷歌发布Gemma 4全系列开源模型，有4个尺寸。它在硬件适配、注意力机制等方面革新，能在手机等设备运行，在测试中成绩出色，还获多平台支持，谷歌发起挑战赛鼓励开发者。
字节跳动发布SeedFold，蛋白质结构预测相关多任务超越谷歌AlphaFold 3，揭示大模型缩放新秘诀
字节跳动Seed团队推出新一代折叠模型SeedFold，在多个蛋白质相关任务性能上超越谷歌AlphaFold 3。该研究为有效缩放生物分子基础模型提供新思路，推出加宽模型、线性三角注意力等方法。