「奖励欺诈」共找到 255 篇相关文章
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。
刚刚，OpenAI发长篇论文：大模型幻觉的原因找到了~
OpenAI发论文揭示语言模型出现幻觉的根本原因，即训练和评估过程奖励猜测而非承认不确定性。预训练阶段就埋下幻觉种子，后训练阶段‘考试机制’强化幻觉，还给出改评分规则的解法。
理解、生成、编辑一次搞定：Skywork UniPic 2.0的统一多模态解法｜甲子光年
电商团队常面临创作流程繁琐问题，当前行业需统一架构。昆仑万维发布Skywork UniPic 2.0，整合理解、生成、编辑功能。它参数小性能优，还构建奖励模型，配合其他模型构建体系，具成本等优势。
未来，你的 Agent 怎么付钱？
借 a16z 文章，探讨 Agent payment 领域进展。实现 Agent 自主支付是未来关键方向，现已有迹象且部分企业推出解决方案，但 Agent 处理支付尚未真正自主，还面临角色范围、欺诈、责任归属等难题。
告别人工干预！KDD Cup 2026 Data Agents 赛道：定义下一代数据智能体能力边界
KDD Cup 2026 发布 Data Agents for Complex Data Analysis 赛道，由香港科技大学（广州）和清华大学联合承办。旨在推动 AI 告别人工干预，具备自主任务分解等能力，还推出 DataAgent - Bench 测试平台，有丰厚奖励，公布关键时间节点。
登顶多模态推理榜MMMU！UCSD新方法超越GPT-5、Gemini
加州大学圣地亚哥分校团队开发的DreamPRM-1.5在MMMU测评榜夺冠，超越GPT-5、Gemini 2.5 Pro Deep-Think。它细化加权粒度到样本，有Instance Table和Instance Net架构，采用双层优化与生成式奖励模型。
VLM会描述视频，却未必用对参考图：RefCaptioner让参考图与视频语义精准对应
多模态大模型处理多参考图与视频对应关系能力不足。为此提出 RefCaptioner，强化模型对参考图识别感应能力、优化输出格式与奖励函数；还构建 MRVBench 评测基准，实验显示其表现优异。
CEO卷款夜逃迪拜，15亿美元独角兽爆雷！700印度码农冒充AI，坑惨微软
Builder.ai自称用AI简化软件开发，吸引微软、软银等巨额投资，估值一度超15亿美元。但实际靠人工冒充AI，财务造假，最终破产。类似的“AI诈骗”不止这一起，多家公司被指控欺诈投资者。
腾讯提出Vision-SR1：让模型真正学会“看图思考”，而不是“蒙答案”
视觉语言模型（VLMs）存在视觉幻觉和语言捷径问题，限制其可靠性和泛化能力。腾讯提出Vision - SR1训练方法，通过推理分解和自我奖励机制，不依赖外部监督，提升模型视觉感知和推理可靠性。
大模型学会拖进度条看视频了！阿里新研究让视频推理告别脑补，实现证据链思考 | ICLR 2026
阿里巴巴未来生活实验室团队解决多模态大模型视频推理难题，推出ReWatch数据集和ReWatch - R1模型。数据集克服现有训练数据痛点，模型用SFT + RL范式及创新奖励机制，实验成绩SOTA。