搜索：多步聚合训练

「多步聚合训练」共找到 5661 篇相关文章

让GPU不再摸鱼！清华蚂蚁联合开源首个全异步RL，一夜击穿14B SOTA

清华与蚂蚁联合开源AReaL - boba²，实现全异步强化学习训练系统，解耦模型生成与训练流程，大幅提升GPU利用率。14B模型在多个代码基准测试达SOTA，性能接近235B模型。

清华大学和面壁智能团队开源MiniCPM 4，有8B、0.5B两种参数规模，以22%训练开销达同级别最优。它在架构、推理、数据、训练多方面创新，性能领先，适用于综述生成、工具调用等场景。

工程仿真里有限元方法常见，但计算与人力成本高。此研究提出把大语言模型变为计算机辅助工程智能体，开发不依赖训练数据的降阶求解器，在多问题上表现佳，为下一代计算机辅助工程提供框架。

介绍在校生开发的开源工具 HypoMux，它面向 Windows，能把多张网卡「绑」在一起，让下载任务多线路并行。有双模式可选，还能智能分流，兼容主流加速器。操作简便，可解决下载慢问题。

RAG是大模型落地标配技术，但存在搜到文档却答错的痛点。德国萨尔大学等团队提出Disco - RAG框架，在‘搜’和‘答’间加入‘读懂’环节，已被ACL 2026主会录用，在多基准测试表现优异。

研究表明扩散图像生成器学习重建预训练编码器嵌入可加快训练，Apple团队提出的FAE，通过缩小嵌入再重建解决了因嵌入尺寸大导致的训练受阻问题，性能与先进模型相当且训练更快。

近年来，推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现，支持多模态场景，最高可实现 1.9× 推理加速，还具备多亮点。

微软研究院开源AI Agent推理模型rStar2-Agent，140亿参数在多测试超6710亿参数的DeepSeek-R1。其通过智能体强化学习，在训练基础、算法、流程上有三大突破，显著提升性能且降低算力成本。

复杂物理系统时空演化预测是核心问题，当前AI模型多在数值仿真数据上训练，难以评估其在真实数据上的表现。西湖大学等实验室提出RealPDEBench，含真实与仿真数据，设三类任务、九个评估指标和十个基线方法。

7月23日，“AI大神”李沐开源音频基础模型Higgs Audio v2，构建于Llama - 3.2 - 3B之上，预训练数据丰富。该模型在多个测评中成绩领先，有多种能力，李沐介绍其技术及训练方法。