「空间稀疏注意力机制」共找到 761 篇相关文章
FlashAttention 完全进化史：FA-4 发布之际的技术全景回顾
文章围绕FlashAttention展开，从Attention性能瓶颈引出问题，阐述其各版本演进。FA-1实现算法突破，避免O(N²)内存；FA-2适配架构，提升性能；FA-3深度协同，实现异步；FA-4探索更深异步和角色分工。还探讨跨芯片迁移及未来优化方向。
斯坦福提出新的RL范式，让3B模型的Agent超越Claude、GPT-4
斯坦福提出新的RL范式，让小模型Qwen2.5 - 3B经训练后性能超越Claude - 3.5 - Sonnet等大模型。论文解决了RL在代理环境中可变时长动作优化偏差和稀疏奖励两大挑战，为AI代理发展指明方向。
3D-R1重塑三维视觉语言推理！让三维交互更智能
近年来，视觉 - 语言模型在2D图像理解有突破，但3D视觉语言模型面对复杂场景不足。为此上海大学团队提出3D - R1模型，它基于新数据集和策略构建，有强多任务三维理解能力，不过也存在进步空间。
准确回答视频细节！11B模型挑战视频理解「证据级」任务，开源可商用
近日，复旦大学邱锡鹏教授领衔的OpenMOSS团队联合模思智能开源11B参数的多模态视觉理解模型MOSS-VL。它能准确回答视频里可被验证的细节、时间、过程和空间关系，有六项证据级能力，架构设计独特，采用Apache2.0开源许可。
开启端侧长文本时代！面壁全新架构，让小钢炮最快提升220倍
2025智源大会上，面壁智能发布MiniCPM 4.0模型，实现行业首个系统级上下文稀疏语言模型创新。它在端侧推理任务上表现出色，降低缓存需求，提高运行效能，还进行多维度架构创新，是AI领域探索高效率语言模型的里程碑。
只需一次指令微调，大模型变身全能专家天团，8B模型性能反超全微调基线 | ACL25 Oral
预训练大模型适应专业领域需高昂微调成本，稀疏混合专家架构虽能提升推理效率，但从头训练耗资源。浙大与Thomson Reuters团队提出SIMoE，单阶段微调就能升级大模型，还解决传统方法两大局限，在性能和效率上双突破。
CVPR 2025 | 如何稳定且高效地生成个性化的多人图像？ID-Patch带来新解法
本文围绕个性化多人图像生成展开，指出其面临身份特征泄露等挑战。介绍了早期方法的不足，提出全新的ID-Patch方案，阐述其设计思路、实验效果等，还探讨了提升空间与未来方向，该方案在多人物图像生成中有突破式提升。
攻克结构化长文档检索难题！新框架让模型告别“结构性失明”
SEAL团队推出全新对比学习框架SEAL，通过带结构感知和元素对齐，将文档宏观层级结构和微观元素语义融入Embedding空间，提升模型对结构化数据的理解。在BGE - M3模型上提升了MRR@10指标，还开源了万级字数长文档数据集。
谷歌Nano Banana Pro炸了！硅谷AI半壁江山同框，网友：PS已死
谷歌推出基于Gemini 3 Pro的图像生成模型Nano Banana Pro，在图像编辑和生成上实现史诗级进化，有更广知识储备、超强文字渲染和精准细节把控。它支持4K原生，知识推理强还能直连搜索，玩法多样但也有改进空间。
具身智能落地物流行业的最大难题，被京东物流撕开一道裂缝
在科技领域，物流行业常被视为最不“性感”的赛道之一。随着具身智能火爆，智慧物流又迎来新的想象空间。9月25日，在JDD 2025京东全球科技探索者大会上，京东物流正式发布“超脑2.0”与“异狼”系列新品，旨在填补物流智能化“认知”与“执行”高度统一的关键空白。