「反馈对齐」共找到 466 篇相关文章
OpenAI总裁透露GPT-5改了推理范式，AGI实现要靠现实反馈
OpenAI总裁Greg Brockman在访谈中透露AGI之路，包括技术上转向强化学习推理范式，资源上持续投入计算资源，落地时封装成Agent。还提到GPT - 5改变推理范式，强调计算对AGI的重要性及模型落地等内容。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。
奥特曼首晒GPT-5实测！被曝使用超级对齐团队“遗产”
奥特曼首晒GPT - 5实测，虽对话仅围绕电视剧推荐，但引发大量关注。除官方放料，还被曝重写编码规则，用上超级对齐团队“遗产”通用验证器，不过也有爆料称其研发遇困难。
「10万小时人类数据」不搞对齐只靠规模，灵初智能Psi-R2登顶MolmoSpaces！
4月10日晚，灵初智能发布大模型、数据集与合作计划，包括策略模型Psi - R2、世界模型Psi - W0及近10万小时人类操作数据。其未走花哨对齐路线，靠系统协同，在MolmoSpaces评测中表现优异，体现自主研发路线先进性。
Qwen3-ASR开源：够稳定，能流式，多语言！
今日正式开源Qwen3-ASR系列模型，含两个语音识别与一个语音强制对齐模型，支持多语种。依托创新技术实现精准稳定识别，1.7B模型多场景达SOTA，0.6B兼顾性能效率，强制对齐模型精度超传统模型。
图文跨模态“近视”问题破局：360开源新模型 FG-CLIP，实现细粒度图文对齐突破｜ICML2025
360人工智能研究院发布 FG - CLIP 模型，攻克图文细粒度对齐难题，成果被 ICML 2025 接收并开源。它采用双阶段训练等策略，在多任务评测中超越对比模型，推动跨模态研究产业化落地。
算法1年翻倍，芯片2年翻倍？重磅实锤：AI正在自我加速，拦不住了
NBER论文证明AI研发自我加速反馈环强度远超其他科技领域，芯片效率每2年、算法效率每1年翻倍。部分自动化就能引爆反馈环，全行业13%自动化率或软硬件17%自动化率可触发奇点，6年内AI可能实现自我迭代。
2025.7.4上午 | 视觉智能驱动的多模态对齐与推理的近期系列工作分享 - 复旦博士生王思尹
本次分享由复旦博士生王思尹围绕‘视觉智能驱动的多模态对齐与推理’展开，介绍多模态大模型探索研究，涉及跨模态组合语义理解、视觉参与推理及基于视觉建模世界完成行动等内容。
ICSE 2026杰出论文 | 突破代码模型真实工程落地瓶颈，北大团队提出SEAlign对齐框架：显著提升软件工程智能体决策质量
现有代码模型在经典基准表现好，但在真实软件工程环境表现差。北大金芝、李戈团队提出 SEAlign 框架，通过识别与对齐智能体轨迹关键决策点，提升模型在真实工程任务表现，成果获 ICSE 2026 杰出论文奖。
从最优传输角度训练奖励模型：让 RLHF 学会「忽略错误偏好」丨ICML 2026
浙江大学、小红书、北京大学等团队提出SelectiveRM，基于最优传输训练奖励模型。它重构训练目标，通过选择性分布对齐排除噪声偏好，解决了奖励模型训练中监督信号不可靠的问题，实验验证其有效且泛化能力好。