「因果注意力」共找到 254 篇相关文章
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
阿里新研究：统一了VLA和世界模型
阿里达摩院等提出WorldVLA框架，融合视觉语言动作模型与世界模型。它用三套分词器编码，解决传统自回归模型问题，经联合训练，实验显示其性能优，两模型还能相互助力。
Qwen3.8-Flash-Next：SGLang Day-0 支持
2026年8月26日，Qwen团队开源多模态MoE模型Qwen3.8 - Flash - Next，它是Qwen4架构早期预览版。SGLang在发布首日就提供完整支持，模型架构多方面升级，亮点众多，还给出启动命令及配置建议参考。
2026年了，我们还在用爱迪生试灯丝的方式评估World Model
文章围绕World model展开深度讨论，界定其概念，分析生成派、JEPA派、空间智能派三条技术路线，指出评估比LLM难，提及游戏化benchmark可能是破局点，还强调具身进展由数据驱动，Ego - View或为泛化关键。
突破一亿Token极限：EverMind提出MSA架构，实现大模型高效端到端长时记忆
机器之心发布文章介绍，大模型长期记忆能力受限于上下文长度。《MSA: Memory Sparse Attention for Efficient End-to-End Memory Model Scaling to 100M Tokens》提出MSA架构，突破扩展性、精度和效率的不可能三角，实现100M长度的大模型长时记忆框架。
大象秒变挖掘机！三维变形新突破，无需额外训练 | CVPR'26
南京大学与北京大学提出MorphAny3D，无需额外训练即可让三维生成模型实现跨类别平滑变形。它通过创新注意力机制融合源与目标特征，精准控制结构与时序，效果远超传统方法，代码已开源。
AAAI 2026杰出论文奖 | ReconVLA：具身智能研究首次获得AI顶级会议最佳论文奖
具身智能常被视为‘系统工程驱动’研究方向，ReconVLA获AAAI杰出论文奖，是具身智能方向首次获AI顶级会议最佳论文。它解决VLA模型关键瓶颈，通过重建式隐式视觉定位机制，实验效果显著。
罗福莉携小米MiMo-V2-Flash首次亮相：一次在推理与Agent上的下注｜甲子光年
大模型进入新阶段，效率成能力一部分。小米MiMo团队12月16日晚发布并开源MiMo - V2 - Flash，负责人罗福莉首亮相。该模型在推理、编程和智能体场景表现出色，在架构、训练方法等有创新。
DeepSeek V3到V3.2的进化之路，一文看全
知名AI研究者Sebastian Raschka发布深度博客，详细梳理DeepSeek V3到V3.2进化历程。DeepSeek V3.2性能对标GPT - 5和Gemini 3.0 Pro，且为开放权重模型，报告涵盖众多有趣领域和知识。
刚刚，霸榜神秘视频模型身份揭晓，原来它就是「David」
几天前登上Artificial Analysis榜首的神秘视频模型揭晓，是Runway最新发布的Gen - 4.5。它树立行业新标杆，在多方面表现出色，但也存在一些视频模型常见的局限性，Runway正探索解决办法。