「分组查询注意力」共找到 295 篇相关文章
DeepSeek V3到V3.2的进化之路，一文看全
知名AI研究者Sebastian Raschka发布深度博客，详细梳理DeepSeek V3到V3.2进化历程。DeepSeek V3.2性能对标GPT - 5和Gemini 3.0 Pro，且为开放权重模型，报告涵盖众多有趣领域和知识。
手机“自动驾驶”时代来了，智谱还让手机拥有“云替身”
作者参加智谱AutoGLM新版本闭门会并试用，该版本亮点多，如成全球首个手机通用Agent，操作在云设备运行，全平台覆盖等。云手机Agent能力稳定高效，能处理多类任务，还可助老人等群体用手机。
DeepSeek V4 借实习生获奖论文“起飞”？梁文峰剑指上下文：处理速度提 10 倍、要“完美”准确率
ACL公布2025年获奖论文，中国作者比例超51%。DeepSeek梁文锋通讯、实习生袁境阳一作的论文获Best Paper奖。其提出NSA机制，实验显示性能优、准确率高、速度提升显著，成果或用于DeepSeek V4。
MoCa：首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
从0到1拆解FreeWheel ChatBI：大模型如何重塑视频广告智能数据分析新生态
本文结合 FreeWheel 实际应用经验，分享构建 ChatBI 系统核心实践。介绍其核心功能、技术实践，如让 LLM 理解业务、智能选表等，还提及系统架构、算法服务，最后总结上线效果并展望未来优化方向。
AI一天写4.4万行代码却没合并，程序员：AI Coding 真正的瓶颈来了
本文分享腾讯AI原生研发的真实案例，指出AI Coding产能提升后，最大瓶颈已非模型能力，而是现有研发治理体系与人的注意力适配问题，同时预告2026奇点智能技术大会的行业实践分享。
Meta发布Muse Spark，MSL的首份答卷！Alexandr Wang通过了吗？
Meta发布Muse Spark，是MSL首个模型，经九个月技术栈重构，效率优先。它有原生多模态推理能力，Contemplating模式处理复杂查询，安全评估突出，产品功能升级，商业化转向明显，正逐步在Meta应用推出。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
10秒视频token超5万，O(n²)跑不动？用后训练线性化框架实现1.71倍加速，推理成本大降｜CVPR'2026
视频生成进入大规模时代，但计算成本高，自注意力复杂度O(n²)跑不动。研究团队提出LINVIDEO后训练框架，无需数据和重新预训练，实现视频扩散模型线性化替换，保持生成质量，加速推理并降低成本。