算法论文8
MLRA超越MLA,解码最高快2.8倍
新智元
AI 摘要
宾夕法尼亚州立大学等研究人员:提出MLRA架构,拆分KV缓存为四分支,实现4路张量并行。实验显示,其推理速度比MLA最高快2.8倍,支持百万级上下文,模型质量也更优。
阅读原文 · 新智元
超越MLA!新架构MLRA百万token,解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时,自回归生成受限于显存带宽。为减少KV缓存开销,业界尝试多种方法,但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA,拆分KV缓存为四个并行分支,降低显存占用,实现4路张量并行,性能更优。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用8
千问推电商Agent 开店成本大降
本文报道千问办公推出独立第三方电商Agent产品千问办公电商版,接入多平台主流电商工具,可帮商家实现跨电商平台经营管理,大幅降低开店试错成本,目前已面向商家开放邀测。
AI前线
算法论文9
苹果LensVLM:长上下文的放大镜
本文介绍苹果基础大模型团队与杜克大学联合提出的LensVLM方案,针对长上下文压缩易丢失关键信息的痛点,提出将长文本压缩为图像、模型按需展开细节阅读的新思路,相关研究已被NeurIPS 2026接收,公开了模型、代码与可体验Demo。
机器之心
推荐文章8
AI Coding催生柔性软件新形态
本文为王博在《AI原生软件研发成熟度模型AISMM 2026》白皮书发布之际撰写,探讨AI Agent介入后软件形态、研发流程的变革,提出柔性软件概念与传统软件柔性化路径,为企业AI原生研发提供参考。
AI科技大本营
产品应用9
阶跃发布首款Agent手机STEPX Neo
本文作者实测体验阶跃终端推出的首款大模型原生Agent手机STEPX Neo,介绍了产品设计、原生Agent系统能力、创客开发生态与系统级安全方案,公布了产品定价与用户福利。
量子位