「线性注意力机制」共找到 1036 篇相关文章
反击AI论文！arXiv每年拒掉2%造假内容，自动化工具加入审核
AI生成论文泛滥，arXiv等预印本平台升级审核机制，用自动化工具检测。Nature发现每年约2%论文因AI使用被拒，如bioRxiv等平台每天拒绝不少AI手稿。平台既要防造假，又要避免误伤合理AI润色。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
思维锚点：破解LLM Reasoning黑箱的关键句
文章提出思维锚点概念，指推理轨迹中影响后续步骤和答案的关键句。开发三种归因方法，系统论证高级组织句影响力更大，锚点主导错误修正。研究为理解LLM推理机制开辟新途径，开源工具支持可视化分析。
弃 Python 拥抱 JVM，Spring 之父 20 年后再造“革命性框架”：我从未如此确信一个新项目的必要性
Spring 之父 Rod Johnson 开源专为 JVM 生态设计的 AI 智能体框架 Embabel，旨在弥合生成式 AI 的‘承诺’与‘现实’差距。它采用 GOAP 方法保证确定性，有弹性执行与动态重规划能力，还引入多种机制确保可控性与安全性。
无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码
港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。
建模世界偏好：偏好建模中的Scaling Laws
研究首次揭示人类偏好建模遵循Scaling Law，从论坛收集数据在Qwen 2.5模型训练，发现测试损失随训练规模指数增长线性下降。提出建模世界偏好，论文和模型已开源，还探讨了偏好建模可扩展性等问题。
【CIKM'2026】CQ-SID：LLM生成式检索在手猫搜索召回中的探索与应用
文章围绕LLM生成式检索在手猫搜索召回的应用展开。先点明当前搜索召回机制问题及生成式检索挑战，提出CQ - SID等方法，经实验验证其效果佳，还介绍了线上实验成果，最后展望未来探索方向。
对话 IDEA 张磊：「不以动作为输入条件，就不叫世界模型」
本文是对IDEA研究院张磊的深度访谈。张磊在计算机视觉领域成就斐然，他指出具身智能落地需攻克成功率、泛化性等挑战，大脑比本体更关键。还阐述了世界模型概念及应用，定义其应具备动作依赖等内容。
无法蒸馏的美国市场，谁在分食 Frontier Labs 百亿美金预算？
本文围绕美国数据市场展开，分析了数据赛道的投资判断、公司增长难题、需求结构、最新趋势等。指出数据虽重要，但外部数据公司份额难线性外推；真实世界数据成新热点，各细分领域格局和投资方向不同。
时间会证明光的
市场曾质疑AI资本开支高增长的持续性，如今随着头部模型公司ARR非线性爆发式增长，AI商业正向循环打通。在AI硬件产业链中，光互联是国内厂商全球参与度最高、份额最稳固的环节，正迎来最好时代。