「稀疏注意力模型」共找到 7817 篇相关文章
比NanoBanana更擅长中文和细节控制！兔展&北大Uniworld V2刷新SOTA
兔展智能与北京大学的UniWorld团队推出图像编辑模型UniWorld - V2，它提出UniWorld - R1框架，在权威测试中超越顶尖闭源模型。该框架通用性强，能提升其他基础模型性能，相关论文、代码和模型已开源。
The Batch: 844 | AI 天气预测加速推进
美国国家飓风中心与 Google 的 Weather Lab 合作，利用新模型预测风暴。该模型能比传统方法更准确预测风暴形成、路径和强度，最长提前 15 天，测试表现优于 Google 之前的 GenCast 模型和 ENS 模型。
少量视角也能得到完整3D几何，即插即用的语义增强重建插件来了
现有神经隐式路线在样本稀疏时有跨视角对应不稳等问题。上海交通大学等团队提出SERES，将跨视角语义一致性作先验注入模型，以低成本解决歧义问题，在多场景提升重建质量。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
中美 NeoLab 对话：模型和 Agent 如何实现「持续学习」？
在新加坡 AGI Playground 2026 舞台上，AMI Labs 林敏和 Mind Lab Andrew Chen 深度对谈，探讨 Agent 如何将经验转化为能力、持续学习。两人对持续学习给出不同答案，还讨论记忆、学习等基础问题及解决办法。
一个大脑搞定所有模态，百度ERNIE 5.0技术报告公布
模型发布近3个月后，百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构，参数量万亿但推理激活参数不到3%，实现四种模态原生自回归统一，还在路由调度、训练范式等多方面有创新。
ICML 2026 | 拒绝盲目猜token，阿里x浙大将投机解码带入弹性预算时代
随着大模型参数规模扩大，推理成本成核心瓶颈。投机解码在高并发下有问题，阿里与浙大学者提出 ECHO，将投机树构造建模为预算调度问题，通过稀疏门控和弹性预算调度提升系统收益。
告别Transformer！北大、北邮、华为开源纯卷积DiC：3x3卷积实现SOTA性能，比DiT快5倍！
北大、北邮和华为研究提出纯卷积扩散模型 DiC，抛弃自注意力机制回归 3x3 卷积。它性能超 DiT，推理速度快 5 倍，证明精心设计的卷积网络在生成任务中也能表现卓越。
RAG外部检索是多余的，英伟达最新成果颠覆认知
英伟达INTRA论文指出RAG架构中检索器和生成器在不同表示空间工作，存在retriever - generator mismatch问题。INTRA让模型用注意力查询检索自身编码表示，训练量小，在多跳QA上超越多种检索基线。
无需训练，直接「算出」最强AI！理想汽车发现端侧Scaling Law
理想汽车基座模型MindVLA团队与国创决策智能技术研究所联合发布论文，提出面向端侧大语言模型的「硬件协同设计扩展定律」，解决大模型部署在端侧设备的难题，实现软硬协同设计，提升模型性能和研发效率。