「滑窗线性注意力」共找到 278 篇相关文章
全新稀疏注意力优化！腾讯最新超轻量视频生成模型HunyuanVideo 1.5核心技术解密
腾讯混元大模型团队发布并开源轻量级视频生成模型HunyuanVideo 1.5，参数8.3B，支持5 - 10秒高清视频生成。它通过多层次技术创新，在生成效果、性能与尺寸上实现平衡，还具备多种核心能力。
Andrej Karpathy 辣评Veo 3：视频生成将直接优化人类的注意力，TikTok只是弟弟
Andrej Karpathy发文对Google的Veo 3视频生成模型发表见解，指出视频生成技术进步带来四个关键转变，认为视频将成AI与人类交流绝佳界面，也引发众人对其利弊的讨论。
港大联合字节跳动提出JoVA: 一种基于联合自注意力的视频-音频联合生成模型
香港大学联合字节跳动提出视频 - 音频联合生成框架 JoVA，支持音视频 Token 跨模态交互，引入嘴部区域特定损失解决口型同步问题。实验显示，它用约 190 万条数据就达先进水平。
刚刚，英伟达新模型上线！4B推理狂飙53倍，全新注意力架构超越Mamba 2
Jet - Nemotron是英伟达推出的小模型系列（2B/4B），由全华人团队打造。其提出PostNAS与JetBlock，实现架构优化。相比Qwen3等模型，它在多维度准确率更高，H100 GPU上推理吞吐量最高提升53倍。
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
超级个体不是全能战士
作者黄益贺指出“超级个体 = 全能战士”是工业时代认知。工业时代超级个体是“超级执行者”，产出线性；AI时代超级个体是“超级导演”，产出非线性，核心竞争力从“拥有技能”变为“定义问题”。
清华新研究，Nature+Science双杀！
清华大学李勇团队分析2.5亿篇科学文献，揭示AI for Science领域矛盾：虽助科学家个体加速，却致科学界群体注意力窄化。这由当前AI模型缺通用性导致，团队推出OmniScientist系统破局限。
独家丨MiniMax 高级研究总监钟怡然已于半年前离职
AI 科技评论独家获悉，MiniMax 高级研究总监钟怡然已离职，去向未公开。他曾主导设计 MiniMax - 01，该模型在超长上下文处理能力上表现突出，走出独特架构创新与效率优化路径。
加速200倍，单显卡1.8秒生成5秒高清视频！清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略，在多模型测试中加速100 - 205倍，且画质几乎无损。
98%准确率！这个双分支AI模型，精准识别木薯叶病害（附代码）
2026年3月论文DenseSwinV2提出双分支AI模型，结合CNN与Transformer，加通道注意力模块突出病害特征。该模型分类木薯叶病害准确率达98.02%，还给出简化版代码，有落地价值。