「类R1训练」共找到 2527 篇相关文章
GuardAgent：首个专门为LLM agent提供安全Guardrail 的守卫型agent
近年LLM从对话工具变为可自主执行任务的agent，但带来安全隐私挑战。传统安全监护对其力不从心，为此学者发布GuardAgent，它守卫agent，具通用性、精确判断和免训练部署优势，实验表现佳。
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
揭示隐藏联系：RLHF/DPO即对比学习！
大型语言模型输出符合人类价值观是挑战，主流技术RLHF复杂、昂贵且不稳定，DPO简化流程但有训练崩溃问题。论文揭示RLHF/DPO即对比学习，提出MIO算法解决DPO崩溃，实验验证其性能优势。
Meta发布40页报告，具身智能的下一步是「心智世界模型」：能听，能看，能理解，会共情
Meta发布40页报告，首次将对人心智状态的推断概念化为心智世界模型，与物理世界模型实现“双轨建模”。还指出要结合系统A和B让AI自主学习，心智世界模型在多智能体协作潜力大。
Lovable 仅凭 35 个员工创造 8000 万美元 ARR 的原因
Lovable 仅35人7个月达8000万美元ARR，因其有大量 AI 原生员工。AI 原生员工默认用 AI，能快速解决问题。聘用此类员工可释放自主权、提升速度，传统公司转型难，未来组织将变革。
「2025 AI 实战手册」，年收入破亿的 AI 公司都在干什么？
硅谷 ICONIQ Capital 团队发布 2025 年度「The State of AI」报告，围绕 AI 产品落地，通过问卷收集 300 家 AI 公司高管回答，从开发、定价等五方面剖析 AI 产品端到端流程，还对比了 AI 原生和赋能型公司产品发展。
苹果港大终结自回归时代？7B扩散模型发布，AI写代码逻辑彻底颠覆！
苹果联合港大开源扩散大语言模型DiffuCoder，用扩散模型+强化学习策略，性能提升4.4%。研究还提出耦合梯度奖励策略优化方法，建立原生RL训练框架，探究了dLLM的生成机制等问题。
这个推理模型：HRM ，只用2700万参数，超越了DeepSeek和Claude
Sapient Intelligence研究者受大脑机制启发提出分层推理模型HRM，它是全新循环架构，仅2700万参数、1000个训练样本，就在复杂推理任务上表现卓越，还引入近似梯度等方法，有推动通用计算变革潜力。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
灵初智能陈源培：一个 00 后的机器人之梦
00 后陈源培是灵初智能联创，本科土木工程专业，大二因比赛对机器人感兴趣。他研究灵巧手，参与开源项目，灵初发布相关模型。他认为强化学习对灵巧手重要，还谈了模型、创业、落地等看法。