「人类偏好对齐」共找到 1413 篇相关文章
告别多奖励跷跷板：Flow-OPD将多教师OPD带入图像生成
中国科学技术大学等机构团队提出Flow - OPD，这是首个将OPD引入流匹配模型的统一多任务后训练框架。它解决了流匹配模型后训练对齐中多任务的梯度冲突等问题，效果良好，未来有多个拓展方向。
微信AI绝密计划曝光！但一个前腾讯员工，已经在硅谷做出来了
腾讯正为微信秘密开发AI智能体项目，计划2026年年中灰度测试，三季度全量上线。而前腾讯工程师已在硅谷做出全球首个人类与AI共生社交网络Teamily AI，能让Agent进群协作，有三层架构支撑。
Anthropic正式请家教！37岁女哲学家像养孩子一样调教Claude
Anthropic的驻场哲学家Amanda Askell，负责为Claude植入「人类的灵魂」。她像育儿一样塑造Claude的「人格」，赋予其道德感，还以同理心对待它。她认为AI可从源头被驯化，也希望更多人讨论AI的恐惧担忧。
18岁华人开源成果，火爆具身智能赛道
18岁华人小哥Eddy Xu的初创公司Build AI开源了有史以来最大的人类为中心数据集Egocentric - 10K，含10亿帧画面，规模是同类的100倍，场景扩展至工厂。不过其缺乏多模态信息，且human - centric路线也有局限。
“AI不是工具，是工人！” 英伟达GTC 2025，黄仁勋如是说
英伟达GTC 2025大会上，黄仁勋提出“AI不是工具，是会用工具的工人”，重新定义人类与技术关系。阐述AI产业本质、三大扩展定律，公布GPU路线图及新硬件，还将AI部署到多行业，构建全栈生态。
量化噪声竟是RL秘钥？QeRL：高效强化学习新范式，一场噪声引发的性能革命
近年来，大语言模型在复杂推理任务中面临挑战，强化学习虽更接近人类推理过程，但训练“烧资源”。论文《QeRL》提出量化不仅能压缩模型、节省资源，还能增强模型探索能力，QeRL框架实现训练速度提升、内存占用减半。
Anthropic 研究员：强化学习将推动 Transformer 实现 AGI
在 AI Agenda Live 纽约活动上，Anthropic 强化学习团队技术负责人 Sholto Douglas 称，无需新架构突破，强化学习能让 Transformer 达人类专家级别表现，接近 AGI。但定义「好表现」是难题，Anthropic 或投 10 亿美元提升模型企业应用表现。
18岁天才少年，登上Nature封面！
DeepSeek-R1荣登Nature封面，成史上首个经严格同行评议大模型。18岁天才少年涂津豪以实习生身份参与，其从高中生到Nature作者的经历堪称传奇。他还改造Claude 3.5，开源项目获15k多星，还对AGI发表思考。
超越DeepSeek-R1，数学形式化准确率飙升至84% | 字节&南大开源
字节跳动Seed团队与南京大学联合发布CriticLean框架，将数学自然语言到Lean 4代码的形式化准确率从38%提升至84%。该框架创新性地将评估模型置于核心，解决语义对齐等问题，还构建了相关基准测试和数据集。
AI 陪伴赛道，会诞生下一个「泡泡玛特」吗？ | GAIR Live
AI科技评论组织“AI陪伴”线上圆桌，多位从业者探讨AI陪伴是否伪命题、不同人群接受度、产品核心价值等，还讨论IP对AI硬件的重要性、硬件与软件优势、是否出海等问题。