算法论文9
万卡RL训练:如何选最优Batch Size
机器之心
AI 摘要
腾讯混元团队:大模型RL训练中,更大Batch不一定更快,只有吞吐收益超过达标样本增幅时才能提速。先调学习率对齐效果再优化吞吐,不增GPU可缩短29%训练时间。
阅读原文 · 机器之心
假如有一万张卡,RL训练该怎么扩大规模?十万张呢?
本文是腾讯混元团队针对大模型强化学习规模化训练的研究,聚焦万卡级算力下Batch Size优化问题,拆分样本效率与系统效率的影响,给出可落地的调优框架,实测可缩短29%训练时间。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
算法论文8
阿里浙大推出AI自主迭代模型Astar
阿里与浙大推出指导 AI 系统自主进化的模型 Astar,通过学习历史提交记录探索改进方向,落地 Lazada 推荐业务使线上 GMV 提升 4.86%。
数据派THU
开源动态7
港科大等开源长程 SQL 框架 HarnessSQL
港科大与微软等开源长程交互 SQL 智能体框架 HarnessSQL,8B 模型在 Spider 2.0 上取得 45.2% 执行准确率,超越多个 32B 专用模型。
新智元
开源动态7
启元机器人世界模型PrimeSim将开源
启元具身研究中心发布机器人仿真世界模型 PrimeSim,通过视频生成模型推演机械臂操作并在两大基准登顶,模型权重与代码即将开源。
机器之心
开源动态6
逐际动力开源具身底座FluxVLA V2
机器人研发公司逐际动力更新开源具身智能工程底座 FluxVLA Engine V2 报告,新增在线强化学习后训练,模型推理频率最高提升至 9.64 倍。
量子位