开源动态8
清华团队:简单 RL 配方让 1.5B 模型达顶尖性能
机器之心
AI 摘要
清华团队推出 JustRL,用简单 RL 配方训练 1.5B 模型。单阶段训练、固定超参达 SOTA 性能,省算力且训练平稳。提醒先验证简单方法极限,再考虑增加复杂度。
阅读原文 · 机器之心
清华团队:1.5B 模型新基线!用「最笨」的 RL 配方达到顶尖性能
清华团队用两个 1.5B 模型证明,用最基础的 RL 配方可达到小模型数学推理能力 SOTA。单阶段训练加固定超参数实现 SOTA 性能且省一半算力,训练曲线还很平滑。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯9
九章云极问鼎陶哲轩数学挑战赛
本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分,解决28个未解决开放数学问题,介绍了其可验证AI+强化学习的AI4S布局。
机器之心
算法论文9
对错之外,推理轨迹暗藏训练价值
本文结合EchoRL、ReflectRL两项最新研究,重新解读推理轨迹的训练价值,解决全答对无强化信号、错题全丢弃的训练痛点,梳理方法设计、实验结果与适用边界,为大模型推理训练提供新参考。
深度学习自然语言处理
新闻资讯8
OpenAI攻破百道数学难题 普林斯顿介入
本文报道OpenAI最新AI进展,其内部新模型批量攻破100多道长期悬而未决的公开数学难题,联合普林斯顿高等研究院成立独立学术顾问小组规范成果评估,引发数学界震动。
AI寒武纪
算法论文8
清华团队22年让机器人学会踢足球
今年8月,清华赵明国教授团队联合字节跳动Seed等在《Science Robotics》发表论文,提出视觉驱动的反应式足球技能学习框架。该研究历经22年技术接力,成果在真机和赛事中验证,加速进化平台助力研究。
机器之心