「奖励欺诈」共找到 252 篇相关文章
刘壮陈丹琦新作：开源通用视觉推理RL框架，0思考数据刷新SOTA
普林斯顿刘壮团队、陈丹琦参与推出开源通用视觉推理RL框架Vero。它构建的视觉推理器在30多项测试达8B视觉语言模型SOTA，解决了开源RL方案的问题，所有数据、代码、模型均已开源。
OpenAI解释LLM为什么会有幻觉
OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。
ROLL：面向大规模语言模型的高效强化学习框架
本文介绍阿里推出的ROLL强化学习框架，专为LLM训练优化。它设计灵活，不同用户可用其满足业务、探索或线上指标需求。在多任务训练中性能出色，还采用创新机制提升效率，支持自定义操作，适合学术和业务场景。
视觉感知RAG × 多模态推理 × 强化学习 = VRAG-RL
数字化时代视觉信息愈发重要，传统RAG方法处理视觉信息面临挑战。阿里巴巴通义实验室的VRAG - RL将强化学习引入多模态智能体训练，革新检索生成范式，提升视觉语言模型多方面能力，代码已开源。
北大校友，OpenAI前安全副总裁Lilian Weng最新万字博客文章：Why We Think
北大校友Lilian Weng新发布万字博文《Why We Think》，系统梳理让AI模型‘多想一会儿’的前沿方法及逻辑，深入剖析多种机制突破AI性能瓶颈的理论、技术与进展，还提出一系列待解决的开放性问题。
以示范应用推动技术迭代｜“幻镜”AI视听测评季正式开启！
8月19日，“幻镜”AI视听测评季在首创·郎园Station启动，由多方指导与主办。它采取“AI作品创作征集+技术测评”结合模式，首季征集“我AI北京”主题作品，将促进视听技术迭代。
告别数据「噪音」，UCSD大模型推理新方法DreamPRM充当「信号放大器」，登顶MathVista测评榜
DreamPRM由加州大学圣地亚哥分校团队开发，在MathVista测评榜夺冠。它通过双层优化框架解决多模态过程奖励模型训练难题，能与多模态大模型集成，提升推理能力，实验效果显著。
微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨
今天凌晨微软官网分享三大创新算法，即rStar - Math、LIPS、CPL，可助大模型突破推理瓶颈，增强数学推理和思考链能力，还介绍了各算法原理、优势及对应论文地址。
AI进化三年，产业落地真拐点可能就在这场全球顶尖金融智能赛事里
AI发展三年走到关键转向点，应用价值成关键。金融行业是AI应用复杂领域，AFAC2025金融智能创新大赛聚焦解决产业真问题，设百万奖金池，开放多赛道赛题，已开启报名。
机器人搬冰箱成了！洗碗之后又一痛点，网友：解放我的髋关节
波士顿动力最新人形机器人Atlas能搬动几十公斤重冰箱。它定位为干重活，动作模拟人类搬重物，训练靠强化学习，经参考轨迹、奖励函数、仿真训练、真机测试迭代。