搜索：高效注意力机制

「高效注意力机制」共找到 1489 篇相关文章

清华、西交联合开源发布了Cheers : 一条更简洁、更高效的统一多模态路线

清华、西交联合开源发布CHEERS，提出面向统一多模态理解与生成的架构路线，在保持系统简洁前提下，统一理解与生成任务，继承开源预训练模型知识，在多项基准测试中表现优异，还实现4× token压缩。

Uber构建的HiveSync是分片式批量复制系统，能让Hive和HDFS数据跨区域同步，每天处理数百万Hive事件。它基于Airbnb ReAir扩展，分离控制与数据平面，有复制和数据修复两组件，未来计划拓展到云端。

腾讯混元大模型团队发布并开源轻量级视频生成模型HunyuanVideo 1.5，参数8.3B，支持5 - 10秒高清视频生成。它通过多层次技术创新，在生成效果、性能与尺寸上实现平衡，还具备多种核心能力。

麻省理工学院何恺明团队发布颠覆性研究，指出主流扩散生成模型未做好去噪工作，回归洁净数据预测才是高维像素生成正解。团队设计实验验证观点，提出极简架构JiT，展现优越性能与扩展能力。

近年来，大语言模型在复杂推理任务中面临挑战，强化学习虽更接近人类推理过程，但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源，还能增强模型探索能力，QeRL框架实现训练速度提升、内存占用减半。

本文介绍支付宝AI出行助手研发历程，其集成多种出行功能，基于xUI + KMP框架搭建。分享研发实践、挑战与策略，如迁移基础能力、卡片生态，适配标准框架，还提及KMP应用及数据度量体系，取得业务和研发效能成果。

混元基础模型团队提出全新框架MixGRPO，结合SDE和ODE，简化MDP优化流程，提升效率与性能。还推出更快变体MixGRPO - Flash。MixGRPO训练时间降近50%，MixGRPO - Flash再降71%，效果和效率优于DanceGRPO。

Andrej Karpathy发文对Google的Veo 3视频生成模型发表见解，指出视频生成技术进步带来四个关键转变，认为视频将成AI与人类交流绝佳界面，也引发众人对其利弊的讨论。

本文围绕个性化多人图像生成展开，指出其面临身份特征泄露等挑战。介绍了早期方法的不足，提出全新的ID-Patch方案，阐述其设计思路、实验效果等，还探讨了提升空间与未来方向，该方案在多人物图像生成中有突破式提升。

使用强化学习微调扩散模型时，常面临Reward Hacking和KL正则化阻碍探索收敛的问题。港科等团队提出GARDO框架，通过门控自适应正则化和多样性感知优化，解决痛点且全面开源。