「分层稀疏注意力」共找到 442 篇相关文章
Anthropic 技术栈里的「五宗罪」由何而来？
Anthropic的Claude模型升级后，用户却觉得不好用。X上帖子指出其存在文本和代码标记、模型能力、定价、长上下文等问题，这些问题卡在生成、计算、上下文和Agent运行时的5个具体位置，导致各方面互相拖后腿。
生成视频总出物理bug？用VLM迁移+token级对齐，让燃烧在正确位置发生，碰撞遵循动量守恒丨CVPR 2026近满分接收
现有生成式视频模型多停留在“外观拟合”，未真正“物理建模”。中山大学等机构提出ProPhy，构建渐进式物理对齐框架，使模型有“分层物理理解”与“空间物理对齐”能力，论文被CVPR2026近满分接收。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
具身智能中的 VLA 技术及其应用
文章围绕具身智能中 VLA 技术展开，介绍其现状、挑战、架构、数据方案及部署等内容。指出 VLA 虽推动具身智能发展，但面临数据、模型结构等挑战，还探讨了不同架构优劣及未来探索方向。
10秒视频token超5万，O(n²)跑不动？用后训练线性化框架实现1.71倍加速，推理成本大降｜CVPR'2026
视频生成进入大规模时代，但计算成本高，自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架，无需数据和重新预训练，实现视频扩散模型线性化替换，保持生成质量，加速推理并降低成本。
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。
从组件到 OS 的跃迁，MemOS 深度拆解：构建企业级 Agent 的高性能记忆底座【上】
本文深入剖析开源记忆方案MemOS，它将记忆从“外挂组件”升为“系统资源”。介绍其设计理念、核心架构，分析记忆需加工、分层调度和治理的原因，还阐述记忆三态及流转，最后展示MemOS Cloud的使用方法。
以孔子命名，超越Claude 4.5 Opus，Meta发布工业级自我进化AI软件工程师CCA
Meta与哈佛联合推出工业级软件工程师CCA，它是一套让AI在工业级代码库协作的方法论，解决长上下文推理等难题。其三维解耦设计、精细记忆机制、自我进化能力获数据验证，还适合引入强化学习。
谷歌：Embedding检索存在根本理论局限，Sparse、Graph才是未来？
近年来稠密向量检索广泛应用，社区认为embedding能‘包打一切’，但谷歌DeepMind从理论与实验指出其存在根本局限。相关实验代码和数据已开源，还给出替代方案。
IROS 2025 | 机器人衣物折叠新范式，NUS邵林团队用MetaFold解耦轨迹与动作
新加坡国立大学邵林团队提出MetaFold框架用于机器人衣物折叠。它创新分层架构，解耦任务规划与动作预测。构建开源数据集，经实验在多指标超现有方法，还验证了从仿真到现实的迁移能力。