「可验证过程奖励」共找到 1287 篇相关文章
物理学家靠生物揭开AI创造力来源：起因竟是“技术缺陷”
两位物理学家以生物系统自我组装过程为参考，提出并验证假设：扩散模型去噪过程类似细胞分化重组，AI的‘创造力’是模型架构直接且必然的结果，本质是确定性过程。
0.005%参数量超越SOTA！提升模型能力无需庞大奖励模型
上海交通大学等校联合团队提出轻量级奖励模型SWIFT，利用大模型隐藏状态线性特征，仅训练极小线性层，在推理任务中超越主流奖励模型，实现计算效率与准确率双提升，且在多领域表现出色。
突发：Claude引入强实名制验证！必须真人手持证件自拍，否则直接封号！
Anthropic宣布在Claude平台推出身份验证功能，部分用户访问特定功能或触发风控时需强制验证，要手持证件自拍。这一举措让中国用户账号风险大增，还可能冲击相关生态链，用户或转向ChatGPT。
AutoDev CLI：打造 AI 生成的 AI Agent 质量保障与验证架构
文章介绍AutoDev CLI，它基于AutoDev MPP架构构建，旨在解决上一代AutoDev智能体测试难题。阐述其起步、迭代、演进、集成过程，实现从AI生成代码到验证、生成测试系统的转变，带来可验证、可演化、可移植的优势。
从日志学习到风洞验证：构建 GPU 集群的 AI Native 稳定性闭环
文章介绍了面向新引入GPU芯片稳定性验证的AI Native治理体系“算力风洞”。其通过厂商环境自动复刻等手段，将新芯片适配效率提升10倍以上。体系分认知、验证、进化三层，形成完整闭环，推动智算集群稳定性建设升级。
RL训练总崩溃？R1-Reward稳定解锁奖励模型Long-Cot推理能力
多模态奖励模型对提升多模态大语言模型表现至关重要，但强化学习在奖励建模应用有挑战。快手等团队提出R1 - Reward，解决训练不稳定等问题，在基准上超SOTA模型，还在快手业务场景成功应用。
视频「缺陷」变安全优势：蚂蚁数科新突破，主动式视频验证系统RollingEvidence
蚂蚁数科AIoT团队论文提出主动式可信视频取证系统RollingEvidence，利用相机卷帘门效应嵌入物理水印，结合AI与概率模型验证，抵御伪造篡改，在检测准确率和防护能力上优于传统技术。
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
奖励模型也能Scaling！上海AI Lab突破强化学习短板，提出策略判别学习新范式
上海人工智能实验室提出策略判别学习（POLAR）新范式，解决奖励模型设计与训练瓶颈。POLAR可灵活适配多样需求，弥补传统奖励模型短板，契合强化微调框架，实验证明其性能和泛化性优越。