「空间稀疏注意力机制」共找到 761 篇相关文章
255亿估值，国产GPU第一股要来了？
6月18日，摩尔线程IPO辅导状态变更为“辅导验收”。它成立于2020年，累计融资超45亿，估值255亿。若上市成国产GPU第一股，或受二级市场追捧。当下国产芯片替代空间广，相关企业有望增长。
李飞飞自曝详细创业经历：五年前因眼睛受伤，坚定要做世界模型
在a16z播客节目中，“AI教母”李飞飞讲述创业经历。五年前眼伤失立体视觉，让她意识到其对空间交互的决定性作用。她认为真正通用智能需理解物理世界，与Martin Casado一拍即合创立World Labs，加速世界模型突破。
卡帕西点赞Transformer内置计算机！每秒3万Token吞吐，拿下世界最难数独
当前大模型推理顶尖但精确计算不足，Percepta团队在Transformer权重里内嵌可执行程序，通过2维注意力头设计提升推理效率，能在普通CPU上实现每秒3万+Token的流式输出，还精确求解了世界最难数独。
单GPU搞定高清长视频生成，效率×10！引入Mamba机制突破DiT瓶颈 | 普林斯顿&Meta
普林斯顿大学和Meta联合推出新框架LinGen，以MATE线性复杂度块取代传统自注意力，使单张GPU能在分钟级生成高质量视频。它在视频质量上优于DiT，减少FLOPs和延迟，与先进模型相当。
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
DeepSeek V3到V3.2的进化之路，一文看全
知名AI研究者Sebastian Raschka发布深度博客，详细梳理DeepSeek V3到V3.2进化历程。DeepSeek V3.2性能对标GPT - 5和Gemini 3.0 Pro，且为开放权重模型，报告涵盖众多有趣领域和知识。
首个开源实现100%可复现的稳定RL训练框架来了！2次结果完全重合
SGLang团队联合slime团队开源实现100%可复现的稳定RL训练框架。基于Qwen3 - 8B重复实验结果完美重合。SGLang在批次不变算子基础上实现确定性推理，性能有下降但有提升空间，还给出使用方法和未来规划。
ACL 2026 | Spatial-Agent：地图Agent全新概念转换范式
论文 'Spatial-Agent' 提出地理空间问答应建模为 'concept transformation'，引入 GeoFlow Graph 中间表示。它从自然语言问题构建图结构，再映射到工具调用。实验显示其对地图任务有帮助，还指出构建地图类 agent 需稳定数据源等。
首个实例理解3D重建模型！NTU&阶越提出基于实例解耦的3D重建模型，助理场景理解
人类能自然感知3D世界的几何与语义，但AI做到“两者兼得”是挑战。NTU联合StepFun提出IGGT，将空间重建与实例级上下文理解融为一体，还构建了InsScene - 15K数据集，解决了传统方法的问题。