「奖励信号」共找到 374 篇相关文章
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
17 万模型背后：魔搭联合 AMD 送 1000 小时 GPU 的算盘
魔搭社区联合 AMD 推出「AMD 开发者激励计划」，提供最高 1000 小时 GPU 算力额度。魔搭社区对标 Hugging Face，托管超 17 万个开源模型。此次激励是三方匹配的生意，还释放了硬件去美元化和模型托管社区升级的信号。
VinciCoder：多模态统一代码生成框架和视觉反馈强化学习，数据代码模型权重已开源
中科院与美团团队推出 VinciCoder，打破多模态代码生成中 SFT 范式瓶颈。它将奖励机制转向视觉域，通过两阶段策略统一多样化代码生成任务，在多基准测试中表现卓越，为领域研究提供新范式。
图灵巨头反水！ICML新规血洗学术圈，学术散户只能「裸奔」
2025年NeurIPS投稿量大增致评审系统危机，ICML 2026推出作者自评级新政。图灵奖得主Bengio支持，认为可利用‘偏见’降噪。但该机制对只投一篇论文的‘学术散户’不利，或奖励‘灌水’。
动态RAG新工作：效果爆了，代码已开源
大语言模型幻觉问题突出，现有动态RAG方法信号不可靠。QuCo-RAG从预训练语料库挖掘统计证据，用客观频率替代主观置信度，实现毫秒级幻觉检测与动态检索触发，代码已开源。
LSTM之父22年前构想将成真？一周内AI「自我进化」论文集中发布，新趋势涌现？
本文介绍AI模型自我进化方向的进展，涉及多机构的相关论文。如受“哥德尔机”启发的“达尔文哥德尔机”可自我改进；还有“自我奖励训练”“MM - UPT”“UI - Genie”等方法，展现AI自我进化潜力。
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。
邱锡鹏团队新作：让机器人学会「察言观色」
复旦大学邱锡鹏团队等发布全新操作框架 RoboOmni，突破传统 VLA 依赖显式指令局限。它融合多模态信号，构建数据集，在成功率等方面超基线，以跨模态指令让机器人主动推断意图，开启具身智能‘共情时代’。
刚刚，OpenAI发长篇论文：大模型幻觉的原因找到了~
OpenAI发论文揭示语言模型出现幻觉的根本原因，即训练和评估过程奖励猜测而非承认不确定性。预训练阶段就埋下幻觉种子，后训练阶段‘考试机制’强化幻觉，还给出改评分规则的解法。