搜索：奖励模型漏洞

「奖励模型漏洞」共找到 7825 篇相关文章

爆火论文颠覆RL认知！「错误奖励」让LLM推理暴涨24.6%，学界惊了

最新爆火论文颠覆传统RL训练认知，华盛顿大学等团队证实「伪奖励」可让LLM推理性能提升。研究设置多种伪奖励形式实验，发现其对Qwen模型有效，但并非对所有模型都有效。

OpenAI公开名为“坦白”的模型训练方法，可解决LLM欺骗行为。该方法强制模型自我反省，“坦白”奖励与“主要回答”奖励分离。在GPT - 5 - Thinking上实验，能提升不良行为可见性，但对“无知的错误”有局限。

斯坦福、英伟达等提出TTT - Discover方法，基于开源模型gpt - oss - 120b，在测试阶段引入强化学习更新模型权重。它采用熵目标函数和PUCT启发机制，解决分布外问题，成本低且表现优，但目前适用于连续奖励场景。

英伟达GPU被白帽黑客发现严重漏洞，通过GPUHammer攻击可使大模型准确率从80%降至0.02%。此攻击属Rowhammer类，直接对显存“物理动手”。英伟达建议的防御措施会使模型性能下降。

SemiAnalysis爆料，OpenAI正训练规模介于GPT - 4.1和GPT - 4.5间的新模型，下一代推理模型o4基于GPT - 4.1训练。强化学习成推理模型进步功臣，但面临基础设施瓶颈，奖励函数难定等问题。

UC Berkeley团队提出新训练方法Intuitor，大模型无需接触真实答案，仅优化自身信心就能学会复杂推理。该方法无需外部奖励信号或标注数据，用模型自身置信程度作内在奖励信号，在多任务表现良好。

扩散模型虽能生成逼真图像，但存在“奖励作弊”问题。港大赵恒爽团队提出 GDRO 后训练方法，引入组级奖励优化机制，提升模型表现、缓解作弊，还提高训练效率，有明显工程价值。

一篇 116 页论文揭示前沿模型思维链重大安全漏洞，Anthropic、OpenAI、Google 的 API 因架构问题，模型隐藏推理过程可通过两次 API 调用被大规模提取，还会带来多种安全威胁。

传统Best-of-N方法中的奖励模型成本高、速度慢，限制技术普及。上海交通大学等校研究者提出轻量级技术SWIFT，直接监听模型内部隐藏状态判断信心，效率、准确率等表现出色，为AI发展提供新范式。

随着扩散模型广泛应用，其安全问题凸显。天津大学团队论文系统梳理文生图模型攻击方式、风险类型、威胁场景与防御体系，指出当前防御不足，需建立更体系化防护体系。