「空间稀疏注意力机制」共找到 761 篇相关文章
刚刚，DeepSeek开源OCR 2，首创Qwen编码的「双流架构」
年底 DeepSeek 开源新模型 DeepSeek - OCR 2，首创双流注意力架构，model&paper 一同发布。它重构视觉编码器，采用三阶段训练流程，在 OmniDocBench v1.5 评测及生产环境验证中表现良好。
少量视角也能得到完整3D几何，即插即用的语义增强重建插件来了
现有神经隐式路线在样本稀疏时有跨视角对应不稳等问题。上海交通大学等团队提出SERES，将跨视角语义一致性作先验注入模型，以低成本解决歧义问题，在多场景提升重建质量。
腾讯发布Hunyuan-GameCraft！从静图进入动态游戏世界
近年来，现有方法难满足游戏视频生成需求。腾讯推出Hunyuan - GameCraft，可基于一张图像和提示词生成游戏交互视频，能精准响应交互信号，保留历史场景信息，不过动作空间待丰富。
谷歌发76页智能体白皮书！你的「AI替身」已上线
谷歌发布76页AI智能体白皮书，剖析其应用前景。涵盖智能体运维、评估方法，探讨多智能体架构，还介绍智能体增强检索生成及企业应用，如NotebookLM企业版、Agentspace空间企业版等。
Claude 这个更新，让模型能力提升10%+！
Claude开放100万上下文长度更新，实际可用空间接近8倍提升。数据显示，上下文越长Claude与其他模型差距越大。API取消溢价，还更新图片/PDF上限、将Adaptive Thinking转正式版。
The Batch: 881 | 一千万 token 的输入上下文
Google的Ali Behrouz等人设计“记忆模块”集成到类transformer架构ATLAS，能处理一千万token输入。它替代注意力层，训练后在长上下文任务中表现佳，但小模型，大规模表现未知。
Attention Sink产生的起点？清华&美团首次揭秘MoE LLM中的超级专家机制
清华和美团研究聚焦MoE LLM，首次发现超级专家子集。通过多模型实证分析，揭示其分布规律、重要性及对注意力机制的影响，开发识别工具，为模型压缩提供新方向。
Agentic Deep Research新范式，推理能力再突破，可信度增加，蚂蚁安全团队出品
尽管LLM能力提升，但在复杂任务上受静态内部知识限制。业界提出Agentic Deep Research系统，不过现存系统有梯度冲突和奖励稀疏问题。蚂蚁安全团队提出Atom - Searcher，解决上述问题，实验效果良好。
ICML 2025 | 清华、上海AI Lab提出专家级医学基准MedXpertQA，看o3、R1哪家强
本文由清华和上海AI Lab学者撰写，提出专家级医学基准MedXpertQA。现有医学基准难度和临床相关性不足，而MedXpertQA极具挑战、临床相关性高，构建严格，评测显示前沿模型在医学领域提升空间大。
自定义轨迹驱动AI视频生成，ATI无需训练适配多种生成模型
字节提出视频生成运动控制统一框架ATI，通过轻量级运动注入器将用户定义轨迹投影至预训练图像 - 视频生成模型潜在空间，实现协调控制。用户指定关键点及路径控制运动，无需重新训练，适配不同架构。