「线性注意力模块」共找到 501 篇相关文章
Meta联合Google新作：语言模型到底“记”了多少东西？
Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。
AST| 西工大单湘淋、张伟伟等：基于湍流各向异性分析与符号回归的改进型二阶非线性涡粘模型
针对非线性涡粘模型各向异性建模难题，西工大单湘淋、张伟伟等通过雷诺应力各向异性分析方法开展特征提取，构建新型二阶非线性涡粘模型，在方形管道与矩形扩压器湍流测试中，精度优于现有模型。
中国造出一颗「不怕死」的AI大脑，专接最要命的活儿
全球首个搭载AI大脑的防爆机器人“若愚揽月01”接管加油站，其“若愚九天”机器人大脑深度整合多模块，采用双系统，实现“脑+体”合一，可迁移至多场景，成立三年成果显著，欲做机器人时代“智能内核”。
Node.js 拟内置虚拟文件系统，AI 生成代码引争议
Node.js 技术指导委员会成员 Matteo Collina 提议在 Node.js 核心新增 `node:vfs` 模块引入原生级虚拟文件系统，引发关注。功能可解决常见工作流程难题，已获部分开发者支持，但因用 AI 开发引争议。
DeepSeek还有多少个“郭达雅”？扒完27篇论文，我们发现了一群“多边形战士”｜甲子光年
本文梳理DeepSeek近两年27篇核心论文，发现其研发团队无部门墙，“兵团+小组”配合高效，顶级高校背景研究者多，研发不设限。虽核心作者被挖，但人才密度厚，技术路线已内化，还开放数据侦探工具包。
无需多视角，单图重建可交互3D模型！南洋理工开源结构推理框架
南洋理工大学团队提出MonoArt，将单目可动物体重建建模为渐进式结构推理过程，通过四个关键模块逐步推理，无需外部先验，在PartNet - Mobility基准测试中表现领先，兼顾推理效率，还可用于下游任务。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
10秒视频token超5万，O(n²)跑不动？用后训练线性化框架实现1.71倍加速，推理成本大降｜CVPR'2026
视频生成进入大规模时代，但计算成本高，自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架，无需数据和重新预训练，实现视频扩散模型线性化替换，保持生成质量，加速推理并降低成本。
千星项目LLMRouter：多模型路由，16+策略优化推理
UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。