「奖励设计」共找到 1506 篇相关文章
RLHF与RLVR全都要，陈丹琦团队最新力作将推理能力拓展到通用智能
普林斯顿大学陈丹琦团队发布学术成果，提出基于模型奖励思维的强化学习（RLMT）方法，弥合专门推理与通用对话能力差距，将链式思维优势扩展到更广泛范围，提升整体对话表现。
AI Coding正在重塑大前端！一码多端如何破局？
InfoQ直播栏目邀前阿里工程师吴子奇等探讨AI Coding与跨端研发。提到跨端框架设计、技术创新、人才要求等观点，还介绍快手和字节探索，10月QCon上海站设相关专题。
OpenVision 2：大道至简的生成式预训练视觉编码器
多模态大模型浪潮中，视觉模块是关键。此前OpenVision训练管线复杂，成本高。研究者提出OpenVision 2，移除文本编码器与对比学习，引入随机丢弃视觉token技巧，性能佳且效率高，挑战了对比学习范式。
MCP Registry 预览版上线：AI 开发的统一服务目录
Model Context Protocol 推出 MCP Registry 预览版，这是开放的 MCP 服务器目录和 API，可改善服务器可发现性。注册表开源，分公共和私有子注册表，采用社区举报机制，设计类似 Docker Registry。
VerlTool重塑Agentic RL的训练生态
当前LLM像‘缸中的大脑’，缺乏与外界互动能力。新范式ARLT兴起，但构建训练框架面临诸多挑战。VerlTool作为统一、模块化、高效的开源框架应运而生，解决难题，在多任务实验表现出色，推动LLM向智能体转变。
一个邪修方法，帮你把用Agent的钱省掉80%。
作者曾分享Minimax的Agent，因使用成本高遭读者反馈。现该工具推出Publish to Gallery & Remix功能，用户可复用项目，降低成本，还能形成集体智慧。不过产品和交互设计较粗糙。
3B模型性能小钢炮，“AI下半场应该训练+验证两条腿跑步”丨上海AI Lab&澳门大学
上海AI Lab和澳门大学联合发布通用答案验证模型CompassVerifier与评测集VerifierBench，填补Verifier领域循环迭代体系空白。AI下半场评估比训练更重要，当前验证方法有困境，新模型验证精度高且能用于强化学习。
你和ChatGPT的私密对话正在全网裸奔！网友炸锅：我把ChatGPT当知己，它却把我隐私挂网上
近日，谷歌搜索惊现4500条ChatGPT对话，其中含大量用户深层个人信息。OpenAI称是用户主动分享致索引，将移除该功能并清理。但聊天记录仍在其他搜索引擎现身，引发网友质疑。
别等GPT-5了！普林斯顿万字综述揭秘：我们要做自进化Agents！
普林斯顿大学联合多顶尖机构发表“自进化智能体”综述，描绘AI从静态工具演变成自我学习迭代智能体的过程，拆解其进化核心维度，介绍触发进化机制的时机、修炼方式及应用方向。
从 Hadoop 到 Kubernetes：Pinterest 在 AWS EKS 上的可扩展 Spark 架构
Pinterest将基于Hadoop的数据平台替换为Moka，这是在AWS EKS上运行Spark的Kubernetes原生系统。Moka实现容器化作业隔离，支持ARM实例，改进调度、简化部署，降低成本、提高效率。