「混合线性注意力架构」共找到 469 篇相关文章
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
手机“自动驾驶”时代来了，智谱还让手机拥有“云替身”
作者参加智谱AutoGLM新版本闭门会并试用，该版本亮点多，如成全球首个手机通用Agent，操作在云设备运行，全平台覆盖等。云手机Agent能力稳定高效，能处理多类任务，还可助老人等群体用手机。
DeepSeek V4 借实习生获奖论文“起飞”？梁文峰剑指上下文：处理速度提 10 倍、要“完美”准确率
ACL公布2025年获奖论文，中国作者比例超51%。DeepSeek梁文锋通讯、实习生袁境阳一作的论文获Best Paper奖。其提出NSA机制，实验显示性能优、准确率高、速度提升显著，成果或用于DeepSeek V4。
重塑浏览器！微软在Edge加入AI Agent，自动化搜索、预测、整合
今天凌晨微软官网宣布在浏览器Edge中加入Copilot模式，它像多层级混合智能体，能自动执行搜索、整合等操作，有标签筛选等创新功能，可提升效率，还保障隐私安全，已免费开放。
AI 基础知识从0.1到0.2——用“房价预测”入门机器学习全流程
文章以“房价预测”为例，介绍算法工程师开发模型全流程，包括需求分析、数据收集、划分数据集等十步。详细讲解各步骤操作，如用均方误差衡量模型效果，还提及多种模型及调优方法，助开发者入门机器学习。
开放世界任务成功率82%！美的攻克机器人泛化控制难题
美的AI研究院和华东师范大学联合提出ChatVLA - 2模型，引入动态混合专家架构和双阶段训练流程。真机实验显示其开放世界任务成功率达82%，远超现有方法，为通用机器人控制提供新思路。
⼤模型是万能的吗？探索机器学习+⼤模型在某出海投资业务的应⽤
本文基于公共云大客户出海投资业务案例，探讨用AI大模型结合机器学习算法构建投资预算预测与分配系统。历经三版方案迭代，从纯大模型到引入机器学习算法，目前项目处于落地阶段，有望实现多方共赢。
MoCa：首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
Meta联合Google新作：语言模型到底“记”了多少东西？
Meta和Google合作的论文探讨现代语言模型对训练数据的“记忆”情况。研究发明新方法精确测量“记忆”量，发现模型记忆有上限且与参数线性相关，还揭示学习转折、隐私规律等重要结论。