「自回归架构」共找到 2864 篇相关文章
能让DeepSeek自进化的Harness！LlamaFactory作者开源新工具：0.2元自动造Agent
LlamaFactory作者郑耀威团队开源的PenguinHarness，是全球首个支持多Agent自进化的Harness，能自动构建、评测和改进Agent。它成本低、速度快，适配众多模型，还有严格契约保障安全。已在生产场景应用，效果显著。
唯快不破：上海AI Lab 82页综述带你感受LLM高效架构的魅力
大语言模型性能提升但成本高，制约落地应用。上海AI Lab联合多家机构总结440余篇论文，形成82页综述，将LLM高效架构分为7类，探讨最新进展，还涉及线性化技术、硬件实现等内容。
3个月手搓Gamma架构，这个团队打造出了场景白盒化推理的“下一代内容OS”
AI应用从生成范式转向任务执行范式，Pi团队3个月手搓Gamma架构，打造出场景白盒化推理的“下一代内容OS”。Pi将AI生成与人的编辑能力结合，解决传统创作难题，实现创作全流程系统内闭环。
中移动九天团队MultiPL-MoE：全新Hybrid-MoE架构用于增强通用大模型低资源代码能力
大语言模型在有限计算资源下提升多语言代码能力面临挑战。中国移动九天团队提出 Hybrid MoE 架构 MultiPL - MoE，耦合两层专家选择机制优化，实验证明其在增强低资源代码能力、缓解高资源语言遗忘上有效。
Hermes Agent 技术深度拆解：36000 Star 背后的架构设计，以及你该怎么用它
Hermes Agent 9 个月获 36800 Star，解决记忆断裂、能力天花板和平台绑定问题。它有四层记忆架构、自主技能进化，支持 200+ 模型，还有 40+ 内置工具、15 个平台适配器。最新 v0.8.0 版本有多项更新，文章还给出使用建议和对比。
语言模型内部还藏着众多策略模型？自底向上强化学习重塑底层特征 | 直播预约
现有强化学习工作将语言模型作整体策略优化，研究提出以策略视角审视内部隐藏状态，分析层级和模块级策略，发现不同模型模式差异，还提出自底向上强化学习策略，为研究架起新桥梁。
大模型如何泛化出多智能体推理能力？清华提出策略游戏自博弈方案MARSHAL
近日，清华大学等机构研究团队提出 MARSHAL 框架，利用强化学习让大模型在策略游戏自博弈。实验表明，多轮、多智能体训练提升了模型博弈决策水平，将推理能力泛化到通用多智能体系统，在一般推理任务表现显著提升。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
35 年只卖设计，今天亲自下场造芯！Arm 首款自研芯片发布，Meta 抢下首单
36 年来 Arm 一直授权芯片设计，如今推出首款自研芯片 Arm AGI CPU，Meta 成首单客户。该芯片专为代理式 AI 设计，性能出众，获多家企业认可，还推出参考服务器，当前全球 CPU 供应趋紧。
融资 1200亿后 Kimi 再扔王牌，新架构爆改 Transformer 老配件，比 DeepSeek 同款还省钱
Kimi 发布新论文，提出“注意力残差”架构改进 Transformer 残差连接，解决“稀释问题”，让 AI 更聪明、更省钱，还推出“分块注意力残差”优化成本。与 DeepSeek 方案对比，Kimi 方案性价比更高。