「强化对齐」共找到 888 篇相关文章
最火、最全的Agent记忆综述，NUS、人大、复旦、北大等联合出品
多所顶级学术机构联合发布百页综述《Memory in the Age of AI Agents: A Survey》，为‘Agent Memory’梳理技术路径。提出三角框架，辨析与其他概念差异，还探讨记忆形式、功能、运转机制，展望未来发展方向。
准确率腰斩！大模型视觉能力一出日常生活就「失灵」
EgoCross项目团队聚焦跨域第一视角视频问答评测，揭示现有MLLM在多场景泛化瓶颈。团队提出跨域第一视角视频问答基准EgoCross，经测试揭示模型短板，验证改进方法潜力，研究入选AAAI 2026且数据集等已开源。
Ilya罕见发声：大模型「大力出奇迹」到头了
Ilya大神在近2万字采访中称，AI正从「规模时代」走向「科研时代」，主流「预训练 + Scaling」路线遇瓶颈。他还探讨了AI泛化、安全对齐、预训练范式等热门话题，给出独特见解。
颤抖吧，Bug！OpenAI放出GPT-5「夜行神兽」，命中92%漏洞
OpenAI推出用GPT - 5找修安全漏洞的智能体Aardvark，处beta测试阶段。它开创‘防御者优先’范式，实战识别漏洞率达92%，能强化安全体系。其工作原理独特，与传统技术不同。
DeepAgent：能够自主找工具的深度思考智能体，工具&任务随心配
现有智能体框架自主性差、工具使用受限。中国人民大学等机构研究者提出DeepAgent，能自主思考、发现工具并执行动作。它在多基准测试中表现出色，为构建更强真实世界智能体迈进重要一步。
均值至上假繁荣！北大新作专挑难题，逼出AI模型真本事
当强化学习成大模型后训练核心工具，主流方法陷入「均值优化陷阱」，推理能力停滞。北大团队提出RiskPO，将风险规避理念融入优化目标，用MVaR+捆绑策略双管齐下，三大任务表现优异。
X上63万人围观的Traning-Free GRPO：把GRPO搬进上下文空间学习
年初 DeepSeek - R1带火大模型强化学习，GRPO成常见RL算法，但训练成本高。腾讯优图论文提出Training - Free GRPO，将GRPO训练范式迁移到上下文学习，成本低、泛化好，已开源。
LLM记忆管理终于不用“手把手教”了，新框架让智能体自主管理记忆系统
加州大学圣地亚哥分校和斯坦福大学研究人员提出强化学习框架Mem-α，用于训练LLM智能体自主管理记忆系统。它将记忆构建转为序列决策问题，采用多维度奖励函数，实验显示其全面超越现有方法。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
稚晖君机器人炸场：全球首秀“真男人必会的韦伯斯特空翻”
智元的灵犀X2成全球首个完成韦伯斯特空翻的机器人，该动作对腿部爆发力和协调性要求高。稚晖君介绍其攻克难点的原理，完成此动作验证了硬件可靠性，也体现机器人应对复杂环境的能力。