「稀疏注意力机制」共找到 1044 篇相关文章
攻克大模型训推差异难题，蚂蚁开源新一代推理模型Ring-flash-2.0
9月19日，蚂蚁百灵大模型团队开源新一代推理模型Ring-flash-2.0，独创棒冰算法解决训推差异难题，实现稳定训练。该模型仅激活6.1B参数就能打平40B Dense模型性能，降低推理成本。
Meta最新REFRAG框架引爆RAG圈！KV缓存暴降90%，速度狂飙30×
Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示，它降低KV缓存、加速TTFT，在多任务表现佳，为大模型与知识库结合提供新范式。
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
GPT-5系统提示词突遭泄露，17803 token曝光OpenAI小心思！
一份全新GPT - 5系统提示词在GitHub泄露，有17803 token。此提示词设计精细，覆盖用户对齐、拟人风格、输出质量等。还展示了通用关键要求、安全对齐等方面内容。
手机“自动驾驶”时代来了，智谱还让手机拥有“云替身”
作者参加智谱AutoGLM新版本闭门会并试用，该版本亮点多，如成全球首个手机通用Agent，操作在云设备运行，全平台覆盖等。云手机Agent能力稳定高效，能处理多类任务，还可助老人等群体用手机。
40年后，Dijkstra算法极限再被突破，清华段然团队更快最短路径算法摘STOC最佳论文
清华交叉信息研究院段然团队研究出全新算法，改进图灵奖得主等人1984年提出的算法，跳过不必要排序，专注重要点间最短距离，缩短计算时间。该研究在STOC 2025获最佳论文奖。
MSSP | 西北工业大学马启悦，高传强等：融合激波位置的跨声速抖振气动载荷辨识
本文提出融合激波位置的跨声速抖振气动载荷辨识方法，从时序流场提取激波特征，用稀疏辨识构建参数化代数方程，增强预测精度与泛化能力，为准确预测跨声速气动载荷提供新思路。
颠覆搜索引擎，下一代Agentic Deep Research！12家顶尖学术机构联手提出
在信息获取方式变革背景下，12家顶尖机构联合发布论文提出Agentic Deep Research，它由大模型驱动，可自动规划检索路径等，或颠覆传统搜索范式，且有基准成绩和TTS Law支撑，开源生态也在聚焦。
MoCa：首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。
苹果港大终结自回归时代？7B扩散模型发布，AI写代码逻辑彻底颠覆！
苹果联合港大开源扩散大语言模型DiffuCoder，用扩散模型+强化学习策略，性能提升4.4%。研究还提出耦合梯度奖励策略优化方法，建立原生RL训练框架，探究了dLLM的生成机制等问题。