「强化对齐」共找到 888 篇相关文章
腾讯混元世界模型HY-World 1.5开源，24 FPS的实时交互世界建模
腾讯混元世界模型HY - World 1.5开源，实现24 FPS实时交互世界生成。它采用双重动作表征等技术，解决了长程生成问题，还通过强化学习等优化，在多方面表现出色，为具身智能场景模拟奠基。
如何像 Manus 交付业务需求-- OneAgent + MCPs 范式
文章介绍 Agent 发展历程，从单一 LLM 调用到 OneAgent + MCPs 范式。Manus 是 Loop 框架典型代表，将其与 Cline 开发范式结合企业 MCP Server，可完成多业务需求。同时指出该范式不足及发展方向，还介绍强化学习应用。
阿里发布新一代千问旗舰模型Qwen3.7-Max，登顶最佳国产模型
5月20日，阿里发布新一代千问旗舰模型Qwen3.7 - Max。近三月千问迭代三次，Qwen3.7 - Max在多测评中表现优异，位列国产模型第一。它强化编程等能力，阿里还通过MaaS等连接各环节，布局AI基础设施。
刚刚，奥特曼预言：人类「只剩」最后5年！
奥特曼接受采访时预测，到2030年AI将全面超越人类，届时或诞生攻克量子引力难题的超级智能。他认为人们应关注任务变化，人类关怀有存在价值，且AI要与人类价值观对齐。同时，OpenAI开展巨额算力基建。
听了Andrej Karpathy最新2小时访谈，我对Agent彻底祛魅了
Andrej Karpathy在播客中表示，Agent发展还需十年，离像实习生工作还差很远，要解决诸多能力问题；他认为强化学习糟糕但其他方法更糟，还提出AI应削减背书式记忆、未来强大AI或仅十亿参数等观点。
刚刚，OpenAI首席未来学家离职！曾被马斯克骂蠢驴
OpenAI首席未来学家Joshua Achiam宣布7月24日离职，他在该公司工作9年，曾领导使命对齐团队。他未透露离职原因，称思考已久。此前他曾打断马斯克，被骂“蠢驴”。OpenAI安全线近年人员变动频繁。
单条演示即可抓取一切：北大团队突破通用抓取，适配所有灵巧手本体
在灵巧手通用抓取研究中，传统强化学习面临挑战。北大及BeingBeyond团队提出DemoGrasp框架，以一次成功抓取演示轨迹为起点，通过编辑轨迹适应不同物体与姿态，提升学习效率和真机性能，实验效果出色。
苹果再发论文：精准定位LLM幻觉，GPT-5、o3都办不到
近日苹果发布重磅论文，提出 RL4HS 方法，用强化学习训练模型，能准确标出答案中幻觉部分，还使用片段级奖励和类别感知的 GRPO，在片段级幻觉检测任务上超 GPT - 5 和 o3。
荣登HuggingFace周榜首位， 人大高瓴与快手提出ARPO实现智能体高效训练！
人大高瓴与快手提出的ARPO项目受高度关注，荣登Huggingface Paper日榜、周榜双首位。它是为多轮交互型LLM智能体设计的强化学习算法，在基准测试中，用一半工具调用预算就显著优于现有方法。
阿里巴巴新论文：让LLM学会管理记忆，告别人工规则
大型语言模型处理长对话或复杂任务时，记忆管理靠人工规则，效果有限。阿里巴巴团队新论文提出把记忆管理变为可学习的强化学习策略，AgeMem框架统一长短期记忆管理，经三阶段训练，效果显著。