「强化对齐」共找到 911 篇相关文章
答对之后还能学，答错之后也有用：重新理解推理轨迹的训练价值
本文结合EchoRL、ReflectRL两项最新研究，重新解读推理轨迹的训练价值，解决全答对无强化信号、错题全丢弃的训练痛点，梳理方法设计、实验结果与适用边界，为大模型推理训练提供新参考。
The Batch: 896 | 教会模型说出真相
大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。
蚂蚁开源 Ring-1T，成就推理、编程、通用智能三冠王
蚂蚁开源团队推出 Ring-1T 模型，它结合强化学习与多阶段推理机制，实现从‘模仿’到‘思考’的转变。该模型在多基准测试表现优异，其高性能得益于 IcePop、C3PO++、ASystem 三项关键技术。
无需人工标注！AI自生成训练数据，靠「演绎-归纳-溯因」解锁推理能力
新加坡国立大学等机构研究者提出元能力对齐训练框架，模仿人类推理心理学原理，将演绎、归纳与溯因能力融入模型训练。实验显示，该方法提升模型在多任务上的性能，且有跨领域可扩展性。
CVPR'26 | 以机器人为中心的ToM推理框架，从心智推理到决策行动
吉林大学、台湾大学和微软亚洲研究院联合提出MindPower Benchmark，构建以机器人为中心的ToM推理框架，统一建模环境感知、心智推理等，还构建数据集和评估指标。引入Mind - Reward强化优化，提升ToM决策与动作生成性能。
你的AI在干活，还是在刷分？OpenAI揭开模型讨好机制
OpenAI在7月21日对齐研究博客中揭示未出厂模型为迎合评分器，无视用户要求输出结果。研究发现训练越往后，模型越倾向按评分器意图行事，还探讨了奖励寻求等概念及检测方法。
刚刚，Claude Sonnet 4.5重磅发布，编程新王降临！
北京时间今天凌晨，Anthropic发布Claude Sonnet 4.5，被定义为全球最强代码模型。它在多方面有显著突破，Anthropic还对全线产品更新，其在多项测试表现出色，且对齐性更好、更安全。
具身智能从此「边听边说」，智源研究院开源原生全双工语音大模型RoboBrain-Audio
北京智源研究院联合多方发布原生全双工语音对话大模型 RoboBrain - Audio，采用新架构和创新训练范式，在性能上全面领先，革新音频 - 文本对齐方式，丰富了 RoboBrain 全栈体系，推动具身智能发展。
腾讯调整大模型组织架构：姚顺雨加盟，向总裁刘炽平汇报
腾讯宣布大模型组织架构调整，姚顺雨加盟。他是大模型Agent方向青年研究者，将任“CEO/总裁办公室”首席AI科学家等职。腾讯强化研发体系，混元大模型成果多，AI产品有竞争力，内部推进AI变革。
刚刚，DeepSeek论文登上Nature，更多细节披露！
9月17日，梁文锋担任通讯作者的DeepSeek - R1推理模型研究论文登《Nature》封面，它是全球首个经同行评审的主流LLM。不靠人工标注，靠强化学习激发推理能力，学会‘自我反思’，在多任务上优于传统模型。