「堆叠自回归」共找到 1219 篇相关文章
超越MLA！新架构MLRA百万token，解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时，自回归生成受限于显存带宽。为减少KV缓存开销，业界尝试多种方法，但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA，拆分KV缓存为四个并行分支，降低显存占用，实现4路张量并行，性能更优。
NVIDIA港大MIT联合推出Fast-dLLM v2：端到端吞吐量提升2.5倍
自回归大语言模型推理效率受限，Fast - dLLM v2 由 NVIDIA、港大、MIT 联合推出。它将预训练 AR 模型适配为能并行解码的 Block - dLLM，用约 1B tokens 微调，端到端吞吐量最高提升 2.5 倍，精度相当。
突发，OpenAI首颗「辣椒」芯片压倒英伟达！GPT-6干崩CUDA
OpenAI首颗自研芯片Jalapeño「墨西哥辣椒」实测成绩亮眼，AI推理性能超英伟达全系，功耗仅为一半。它从设计到流片仅用九个月，得益于GPT - Astra协助。有观点认为CUDA护城河或已死，OpenAI正打造算力版图。
Claude Code 5亿美元背后的AI工程革命
文章介绍了Claude Code的诞生故事、技术选型、开发流程等。它从听歌小工具变为年入5亿美元产品，90%代码自写，开发流程快，还重新设计终端交互。Anthropic团队各环节AI化，也有特殊条件，有些经验可借鉴。
击败PI ，清华系具身公司包揽「具身奥林匹克」三项全球第一，刷新世界纪录！
在Benjie's Olympics赛事中，星动纪元凭借自研具身智能模型获三项全球第一，击败具身领域老牌公司PI。该赛事规则严苛，星动纪元在剥橘子、开锁、翻袜子任务中表现出色，此前其在技术研发和场景落地也成果颇丰。
新一代AI教师是什么样？学而思让它从L2「助手」跃迁至L3「老师」
在AI应用落地成关键的当下，教育成AI融合创新前沿。好未来CTO田密提出「AI教师L1 - L5分级」理论，指出当前AI老师达L2水平，L3正演进。学而思学习机的「小思AI一对一」迈向L3，依托硬件和自研大模型，结合优质内容，从可用走向可信。
论文解读：一个运算符能导出所有基本函数
波兰雅盖隆大学Odrzywołek发现二元算子EML，结合常数1能生成科学计算器所有标准功能。EML算子简化运算符集合、将离散问题转化为连续优化问题，但存在数值稳定性、表达式非唯一等局限。
钉钉DeepResearch, 0.008元/1k Token击穿地板价
阿里为7.5亿钉钉用户推出Dingtalk - DeepResearch，解决企业办公AI化痛点。系统采用“三横一纵”架构，有多阶段强化学习等三种解法及DingAutoEvaluator纵向飞轮，实现模型自进化、自纠错。
大模型Agent的下一阶段：可自我进化的AI-Agent
在人工智能飞速发展下，研究者探索让AI自我反思改进。本文作者构建自我进化AI智能体系统，设计四层渐进式架构，经《卡坦岛》实验，证明自我进化能力，不同模型表现有差异，代码级进化潜力惊人。
装完Hermes Agent玩了一圈，我觉得龙虾已死！
Hermes Agent势头正猛，被视为龙虾以来首个真正的竞争对手。它让Agent自己做Harness Engineering，自己写、用、改Skill，还能自我迭代。文章介绍了安装使用方法，对比了与其他项目的差异。