算法论文8
数学推理模型:RL胜SFT,泛化能力更强
深度学习自然语言处理
AI 摘要
研究者评估开源推理模型发现,多数模型数学成功难迁移到其他领域。微调方法中,强化学习(RL)能均衡提升能力,监督微调(SFT)使非推理任务退化,未来或融合二者优势。
阅读原文 · 深度学习自然语言处理
数学推理热潮下的冷思考!如何训练真正"全能"的推理模型?
论文评估20余个开源推理模型在多领域表现,发现多数模型数学成功难迁移。揭示微调方法(RL vs SFT)决定能力泛化,SFT像‘填鸭’,RL似‘思维健身’,为构建通用推理智能体提供新路径。

关注公众号
扫码关注
第一时间收到每日精选
相关文章
推荐文章9
三万字讲透大语言模型入门
本文是面向零基础的大语言模型入门长文,无需机器学习背景,只用简单例子讲清大语言模型的核心逻辑,覆盖从原理到产品化的全流程,适合新人系统学习。
腾讯技术工程
新闻资讯8
传英伟达拟收购Reflection AI
本文是InfoQ编译的科技播客访谈,Reflection AI由前Google DeepMind Gemini团队成员创立,近期发布了5010亿参数的开放大模型Beam,主打编程、推理和智能体任务,发布一周后传出英伟达拟收购该公司的消息,访谈中分享了对开放模型诸多问题的观点。
InfoQ
新闻资讯9
DeepMind AI破解56年数学难题登Science
本文报道谷歌DeepMind推出AI数学证明框架AlphaProof Nexus,破解多道悬而未决的数学难题含两道56年埃尔德什开放问题,成果经同行评审登上《Science》,对比OpenAI此前发布方式的争议,介绍其工作流程。
量子位
新闻资讯9
九章云极问鼎陶哲轩数学挑战赛
本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分,解决28个未解决开放数学问题,介绍了其可验证AI+强化学习的AI4S布局。
机器之心