「过程奖励」共找到 536 篇相关文章
见微知著：LLM 奖励建模的「Analytic Rubric」范式全面综述
该文是对LLM奖励建模的「Analytic Rubric」范式的全面综述。介绍了Rubric概念来源，指出传统奖励模型存在对齐风险，而Rubric RM在多方面取得平衡，还阐述其工作流、各维度研究情况及面临的挑战。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
Knowledge还是Reasoning？具体分析LLM答案正确，不代表思考过程靠谱的问题
斯坦福/加州大学团队指出大模型答案正确不代表思考过程靠谱，传统评估忽略思考路径问题。团队提出双维度评估框架，透视模型思考过程，还测试发现不同领域决胜关键、最佳训练法不同，且框架正解锁新场景。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
从打分器到思考者：RM-R1用推理重塑模型价值判断
伊利诺伊大学香槟分校团队提出 RM - R1 框架，将奖励建模定义为推理任务。它引入推理奖励模型和链式评估准则机制，经两阶段训练，在多基准测试中表现超大规模模型，验证了推理能力对奖励模型的重要性。
昆仑万维方汉：通用Agent是伪命题，AI Office仍有存在空间丨MEET2026
昆仑万维董事长兼CEO方汉在MEET2026提出新视角，认为Agent是可验证过程的自动化系统，擅长复制流程。其判断大模型从‘背答案’到‘背过程’跃迁，Agent先落地AI Office，重塑组织，人类成过程架构者。
记一次cursor编程代码修复的过程
作者分享用Cursor编程时遇到代码bug的修复过程。Cursor写的代码运行报错，自我修复及借助千问、DeepSeek都无果，最后靠谷歌找到解决办法，还提醒要降低对Cursor的依赖。
深度学习中Batch Size对训练过程如何影响？
文章分析深度学习中batch size对训练过程的影响，探讨超大batch优缺点及应对方法。用面试、通俗、科学三种方式解答问题，还通过MNIST实验，从迭代速度、梯度平滑程度、收敛速度等指标对比不同batch size情况。
第六章 Coding优先编的是「过程与约束」,不是「参数」
本章以开面包店类比训练大模型，介绍 AutoResearch 自主实验框架。它将研究生助理工作循环交给 Agent，在固定时间用单一指标判断好坏。仓库获约 64.7K Stars，Karpathy 设计哲学为极简主义与固定约束。
Claude惊人真相被教授曝光：思考过程加密，给钱也看不到！
Anthropic推出extended thinking，包装成让用户看到思考过程的透明标杆，但实际仅展示部分内容，核心思考被加密。开发者发现异常，密码学教授逆向有发现，这暴露了其透明度悖论和信任问题。