算法论文8

Karpathy提出超越RL的新算法思路

AI寒武纪2025-07-13

AI 摘要

Andrej Karpathy指出强化学习虽有价值，但存在渐进式学习低效、背离人类学习机制的局限。他提出“第二天性”新范式算法，不过该构想面临泛化、数据库管理等挑战。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

传英伟达拟收购Reflection AI

本文是InfoQ编译的科技播客访谈，Reflection AI由前Google DeepMind Gemini团队成员创立，近期发布了5010亿参数的开放大模型Beam，主打编程、推理和智能体任务，发布一周后传出英伟达拟收购该公司的消息，访谈中分享了对开放模型诸多问题的观点。

本文报道九章云极言表实验室在陶哲轩发起的数学蒸馏挑战赛第二阶段拿下全部赛道满分，解决28个未解决开放数学问题，介绍了其可验证AI+强化学习的AI4S布局。

本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。

本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。