「动作注意力掩码策略」共找到 513 篇相关文章
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
阿里通义开源GUI智能体SOTA：2B到235B端云协同重新定义移动端GUI智能体
阿里通义实验室开源MAI - UI，通过端云协同架构等解决GUI智能体部署难题。它全谱系模型设计应对硬件约束，自进化数据管线和在线强化学习提升性能，端云协同平衡隐私与效率，扩展动作空间打破局限，在多基准测试创SOTA。
WAIC现场最“聪明”展台！AI眼睛耳朵能力全打开了
WAIC现场，声网展台被观众挤爆，其新奇“AI玩具”都能与玩家流畅对话。声网对话式AI引擎全新升级，新增选择性注意力锁定、视觉理解能力，能与主流数字人方案集成，还可接入大模型，价格低。它已在多领域落地。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
微软AI CEO：倒计时18个月，AI将接管这些美国白领
微软AI CEO苏莱曼称未来12 - 18个月，诸多白领工作将被AI自动化。微软启动大规模自愿退休买断计划，虽未提AI，但各项动作都指向它。不过，现实中AI对岗位的替代情况复杂，也创造了新岗位。
又一个Genie 3来了！刚上线挤爆服务器，Mirage 2把世界模型玩成在线游戏
全球首款AI原生UGC游戏引擎Mirage迎来2.0版本。它能将图像转为可互动3D世界，还能用文本重塑。和Genie 3相比控制类别更丰富，虽有进展但仍有动作控制、视觉稳定等问题待解决。
MiniMax-M1：全球首个开源超长上下文大模型，超越DeepSeek-R1，推理成本仅1/4
MiniMax-M1是全球首个开源超长上下文大模型，刷新三项记录。它采用混合专家架构，闪电注意力让推理复杂度近乎线性增长。CISPO算法加速训练，成本低。在工业级任务测试表现佳，已开源且方便开发者接入。
离职特斯拉“隐身”14个月，杨硕创业终于亮牌：重新定义机器人训练范式
杨硕从特斯拉擎天柱团队离职创业一年多后，妙动科技团队带来新论文《DiT4DiT: Jointly Modeling Video Dynamics and Actions for Generalizable Robot Control》。该团队用视频训练机器人动作，提出DiT4DiT模型，解决VLA模型不懂物理问题，在人形机器人上有新突破。
构建能源领域的AI专家：一个多智能体框架的实践与思考
本文介绍阿里团队在能源领域构建多智能体框架的实践。因单智能体处理复杂任务有“注意力发散”问题，团队研发综合能源智能体平台，阐述框架搭建、各组件功能及设计考量，还分享思考与可优化点。
全球首个机器人任务原生3D世界模型：跨维UNITAS让机器人学会物理直觉，横扫多个榜单
跨维智能发布全球首个机器人任务原生3D世界模型UNITAS，将观察、动作、环境变化统一到同一三维物理表示空间，仅1.7B参数就横扫多项机器人评测榜单，性能超越多倍规模的大参数模型，为Physical AGI探索了新的统一表示路径。