算法论文8
汤泽成团队：CDT提升长上下文模型性能
深度学习自然语言处理
AI 摘要
汤泽成团队针对长上下文模型受噪声干扰问题，提出IG分数和CDT方法。通过实验验证，CDT能精准识别关键token、抑制噪声，在多项任务中提升模型表现，训练效率更高。
阅读原文 · 深度学习自然语言处理
传统训练效率很低？我们靠 “给模型降噪” 重新审视长上下文建模难题
文章指出长上下文模型处理长文本时易受噪声干扰，提出新评估指标IG分数和“上下文去噪训练（CDT）”方法。实验表明CDT优于现有策略，经其训练的开源模型在长上下文任务中性能媲美GPT - 4o。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
DeepSeek论文获奖，V4或借成果起飞
ACL公布2025年获奖论文，中国作者比例超51%。DeepSeek梁文锋通讯、实习生袁境阳一作的论文获Best Paper奖。其提出NSA机制，实验显示性能优、准确率高、速度提升显著，成果或用于DeepSeek V4。
InfoQ
算法论文8
智象未来DreamWorld：3D先验驱动视频扩散
视频扩散模型生成新视角视频时，现有方法缺显式3D结构。智象未来提出DreamWorld，用3D先验与两阶段框架，结合结构和生成能力，在多基准测试表现领先。
机器之心
算法论文8
复旦&引望WAM-Diff2让自动驾驶解码提速15.1倍
视觉-语言-动作（VLA）模型是端到端自动驾驶主流技术，但自回归解码架构有瓶颈。复旦大学与引望智能联合提出WAM-Diff2，实现自回归VLA向离散扩散模型迁移，解码加速15.1倍，多任务性能不降。
机器之心
算法论文7
Gemini、GPT进《我的世界》评测，新框架破瓶颈
国立清华与英伟达团队研究《VLM-AR3L》，把Gemini 2.0、GPT-4.1等拉进考场，评估视觉裁决能力。结果显示Gemini综合最稳，开源小模型特定场景反超。还提出VLM-AR3L框架破使用瓶颈，实战超人类手写奖励。
AI科技评论