「反馈对齐」共找到 466 篇相关文章
Anthropic让9个Claude Agent花5天做出比人类强4倍的对齐成果
Anthropic发表Automated Weak - to - Strong Researcher，用9个并行的Claude Opus Agent组成自动化研究团队，5天就把PGR从人类的0.23提升到0.97，成本约$18,000，证明AI自动化研究可行。
VinciCoder：多模态统一代码生成框架和视觉反馈强化学习，数据代码模型权重已开源
中科院与美团团队推出 VinciCoder，打破多模态代码生成中 SFT 范式瓶颈。它将奖励机制转向视觉域，通过两阶段策略统一多样化代码生成任务，在多基准测试中表现卓越，为领域研究提供新范式。
每周产业洞察 | AI音视频模型能力全面嵌入“专业级视听内容”交付，对齐“制作级”
北京AIGC视听产业创新中心位于朝阳区，是朝阳区推动影视制作基地建设举措。由多方参与，首创郎园运营，提供六大服务平台，截至2025年8月汇聚近百家合作伙伴。首创郎园拓展服务能力，项目多地开花。
全网苦等GPT-5，超级对齐团队遗作成重要线索，奥特曼发话「惊喜很多」
AI圈聚焦GPT - 5，相关爆料多但模型未现。奥特曼称有很多惊喜。GPT - 5疑似技术通用验证器源于OpenAI论文，或代表AI发展进入新的架构突破时代。此外，有博主用疑似GPT - 5创作，效果惊人。
编程超越 Gemini 3 Pro？GLM-5 性能实测对齐 Opus 4.6，智谱市值突破1700亿港元
临近春节，智谱AI发布最新旗舰大模型GLM-5，其代码和智能体能力表现出色，在多方面逼近Claude Opus 4.5，性能超Gemini 3 Pro。该模型已开源，依托国产芯片部署，不过受算力限制，将逐步向用户开放。
NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻
北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。
直播预约 | 如何缓解LLM-as-a-Judge的潜在偏好？UDA：一种无需人工标注的无监督去偏对齐框架
论文针对不同大模型对同一组大模型回答打分差异大等问题，提出无需人工标注、模型无关、即插即用的UDA框架，以无监督方式动态调整Elo评分，实验表明该方法能降低打分标准差、提升与人类评分相关系数。
互联网免费数据已被吃光，普通人反馈早没用了？前英伟达工程师：Transformer的原罪浪费算力，聊天机器人把GPU全糟蹋了
前英伟达工程师、Sail Research 创始人 Neil Movva 认为当前 AI 行业陷“延迟陷阱”，AI 终局应是后台 Agent。他执行“算力拾荒者战略”，想降低智能成本，还指出 Transformer 架构有缺陷，互联网数据被吃光等问题。
Helidon 引入 Agent 能力，Java 框架开始内建 AI 编排
Oracle 发布 Helidon 4.4.0 版本，对齐 OpenJDK 发布节奏，纳入 Java Verified Portfolio。引入新核心能力、Helidon JSON 库，还增强与 LangChain4j 集成，支持智能体编排。
人手一个顶级家教！OpenAI深夜重磅：ChatGPT「学习模式」上线
OpenAI推出ChatGPT「学习模式」，旨在支持真正的学习。该模式从答案机变导师，通过定制指令实现智能教学，有交互式提示等特性，测试反馈积极，未来还会有更多功能。