搜索：两阶段训练框架

「两阶段训练框架」共找到 3774 篇相关文章

告别大模型“失忆”！人大开源MemSifter：轻量代理先思考再回忆，搞定长时记忆

中国人民大学团队提出全新LLM记忆管理框架MemSifter，打破长时记忆管理‘精度不够’和‘成本太高’的困局。它将记忆检索‘外包’给轻量级代理模型，采用任务结果导向的RL训练范式，在8个基准测试中超越现有SOTA方案。

生成可动物体是具身智能等领域关键挑战，现有方法有局限。北大团队提出DreamArt框架，从单张图像生成可交互可动物体，经三阶段流程，表现优于基线方法，不过也存在生成不符物理规律等问题。

阿里达摩院智能决策团队提出面向RLVR后训练的探索增强框架I²B-LPO，改进rollout策略，在关键节点生成更具区分度的推理轨迹，结合信息瓶颈自奖励机制，在多个数学基准上提升准确率与语义多样性。

上海交大智能计算研究院提出 StepORLM，通过生成式过程监督提升运筹建模可靠性。研究反思传统训练范式局限，在多数据集测试中，小参数的 StepORLM 表现超大型模型，还分析现有方法缺陷并提出解决框架，有重要方法论和应用意义。

英伟达推出全模态大语言模型 OmniVinci，架构有三大创新。OmniVinci - 9B 模型表现亮眼，多测试中大幅超 Qwen2.5 - Omni，且训练量仅为其六分之一。其架构经多阶段流程实现全模态理解，还支持多种功能。

清华、伊利诺伊大学和上海AI实验室团队提出JustRL架构，仅用单阶段训练和固定超参数，在1.5B模型上刷新性能纪录，计算量仅为复杂方法50%，挑战了复杂技术堆叠现状。

阿里巴巴ROLL团队联合高校推出「3A」协同优化框架，推动「强化学习用于大语言模型（RL4LLM）」迈向新范式。Async架构提升GPU利用率，AsyPPO降低计算资源消耗，Attention机制提升训练效率与可解释性。

强化学习虽提升大语言模型表现，但面临探索难题。字节跳动等团队提出FR3E框架，分两阶段重建探索机制，在多数学推理基准实验中显著优于强基线，为大模型强化学习提供新范式。

招商局狮子山人工智能实验室团队用RLVR让模型“自学”，构建L0系统，含NB - Agent框架和端到端强化学习训练流程，开源相关内容。测试显示L0显著提升模型性能，展现强大泛化能力。

文章基于华为郭威在2025 AICon大会演讲，复盘华为推荐技术探索。介绍FuXi-α、β模型设计，解决训练和推理难题；分享“多阶段统一建模”进展，提出Performance Law；还介绍了训推系统优化及未来聚焦“强算力”“强模型”融合。