「双预训练架构」共找到 3616 篇相关文章
Agent架构搭建 ≠ 堆Skills
现在很多Agent架构以大量Skills为基础，但这种做法大概率会翻车。Skills机制让模型自行判断是否使用及何时使用技能，其判断不可靠，随着技能数量增多，系统可靠性变差，设计上需平衡灵活性与可控性。
8种LLM架构设计大比拼：从 DeepSeek-V3 到 Kimi K2，究竟有啥不同
文章对比了8种LLM架构设计，如DeepSeek-V3、OLMo 2等。介绍各模型关键技术，像DeepSeek-V3的多头潜在注意力和混合专家架构，还分析不同设计对性能、效率的影响，助读者了解LLM架构差异。
多轮Agent蒸馏终于不翻车！港中文x通义新方法成功率暴涨18点，训练还快32%
香港中文大学联合阿里通义事业群提出TCOD训练方法，解决多轮Agent蒸馏稳定性难题。它只需对现有OPD代码做极少改动，提升了模型成功率，压缩行动步数，还减少训练时间，未来或成训练长程Agent标配。
Scaling Law再现Agent领域！阿里提出训练新范式：在预训练和后训练之间还需一个Agentic CPT
近年来，大型语言模型向智能体系统进化。但当前主流方法构建智能体不佳，阿里通义实验室团队论文提出智能体持续预训练（Agentic CPT）新范式，开发AgentFounder模型，在多基准测试表现卓越。
非Transformer架构的新突破，液态神经网络的推理小模型只用900M内存
谷歌提出的Transformer架构基本垄断大模型，而初创公司Liquid AI研发的液态神经网络架构另辟蹊径。其发布并开源的LFM2.5 - 1.2B - Thinking模型，仅需900MB内存就能在端侧运行，性能优于Transformer架构模型，还降低了死循环生成比例。
强化学习之父Richard Sutton最新演讲揭示OaK架构：通向超级智能的八步愿景
强化学习之父Richard Sutton在演讲中介绍OaK架构，认为它是通向超级智能的路径。他回顾对简单通用AI智能体架构的追求，强调从经验学习、拟合世界的重要性，还指出实现该架构需八个步骤，虽只是愿景但提供了发展路线图。
7B模型对标GPT-4o，全球首个医疗代码生成大模型训练平台来了
研究团队发布全球首个医疗代码生成大模型训练平台MedAgentGym，提供评估基准和训练生态，提升大模型医疗代码生成与推理能力。经其训练的Med - Copilot - 7B达GPT - 4o相当水平，解决医疗AI编程瓶颈。
AI已迷失方向？强化学习教父Sutton最新发布OaK架构，挑战当前AI范式，提出超级智能新构想
强化学习教父理查德·萨顿认为人工智能发展已迷失方向，提出OaK架构回应探寻真正智能的需求。该架构是基于模型的强化学习架构，具备组件持续学习等特点，为通用人工智能指明路径，但面临持续学习和特征生成挑战。
MiniMax 技术闭门会分享：长上下文是 Agent 的 Game Changer
MiniMax 7月10日举办M1技术研讨会，探讨模型架构创新等领域。会议围绕RL能否赋予模型新能力、预训练价值等展开，指出长上下文是Agent的Game changer，混合架构将成主流，还分享了混合架构推理实践及M1相关问答。
训练加速1.8倍，推理开销降78%！精准筛选题目高效加速RL训练丨清华KDD
清华大学THU-IDM团队与慕尼黑大学CompVis团队合作提出MoPPS框架，解决强化微调代价高问题。它精准挑题，预测难度，开销低、动态适应且平衡探索利用，在多任务表现佳，降本增效，有新范式。