「动作注意力掩码策略」共找到 501 篇相关文章
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
从过拟合到通用！ViMoGen开启3D人体动作生成新纪元
随着AIGC爆发，3D人体动作生成领域滞后，现有模型泛化能力有瓶颈。南洋理工大学等机构研究人员提出ViMoGen，从数据、模型、评估三方面重新定义通用动作生成路径，还能赋能具身智能。
“看懂”指令并做动作！Motion-R1结合COT让角色动起来
大语言模型为文本驱动动作生成带来新可能，但现有方法有局限。GigaAI提出Motion - R1框架，融合“思维链”机制，能分解指令、优化动作合成，虽有不足，但在测试中表现优于主流方法。
盛大AI研究院新作：流式生成超越非流式，一句话让虚拟人动作丝滑如真，推理延迟仅1帧
盛大AI研究院与东京大学联合提出FloodDiffusion，首个基于定制化扩散强制的流式人体动作生成框架。它能零延迟生成无限长动作序列，解决了现有方法的问题，在多数据集评估中表现优异。
仅看视频就能copy人类动作，宇树G1分分钟掌握100+，UC伯克利提出机器人训练新方式
UC伯克利团队研发出名为VideoMimic的新系统，能将视频动作迁移到真实机器人。它已让宇树G1模仿100多段人类动作，还能适应各种地形。其工作流程含视频转仿真、仿真训练策略、策略迁移到实体机器人。
必看！Sebastian Raschka新博客盘点了所有主要注意力机制
著名AI技术作家Sebastian Raschka发布博客《现代LLM中注意力变体的可视化指南》，回顾近年开发并用于开放权重架构的注意力变体，包括多头、分组查询、多头潜在等注意力机制，还分析各机制特点、应用场景及优劣势。
基于闪电注意力机制，创新高效开源大模型
传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。
精准复刻！字节推出X-UniMotion实现高精度动作模仿合成
字节推出的X-UniMotion代表角色动画技术突破，提供统一运动控制系统，融合先进算法与操作界面，构建强大技术架构，能生成自然流畅角色动作，还介绍了其技术原理、演示对比等内容。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
DeepSeek-V3.2-Exp：用稀疏注意力打破长文本效率瓶颈
在NLP领域，处理长文本时传统注意力机制效率低。DeepSeek团队推出DeepSeek-V3.2-Exp模型，引入稀疏注意力机制，在保持性能同时提高长文本处理效率，降低计算复杂度，在多基准测试中表现良好。