「强化对齐」共找到 911 篇相关文章
突发！姚顺雨后，清华95后庞天宇加入腾讯，任混元「首席科学家」
继OpenAI大神姚顺雨之后，95后清华博士庞天宇入职腾讯，任混元首席研究科学家，负责多模态强化学习。腾讯AI战略从跟随转向进攻，人才、技术、架构都有新动作。
中科院甩出多模态“核弹”！类GPT-4o多模态模型开源！支持语言-视觉-语音任意组合交互！
中国科学院计算技术研究所（ICTNLP）开源类GPT - 4o多模态模型Stream - Omni，支持文本、视觉和语音任意组合交互，核心是高效模态对齐技术，少量多模态数据即可训练，有多种使用场景。
国务院关于深入实施“人工智能+”行动的意见
国务院发布意见深入实施“人工智能+”行动，推动其与各行业领域融合。提出到2027年、2030年和2035年的目标，部署重点行动，强化基础支撑能力，明确组织实施要求。
让记忆学会“进化”：探索 LLM Agent 的运行时价值感知与自适应检索 | 直播预约
本次直播将介绍最新研究成果 MemRL，提出作用于情景记忆的运行时强化学习方法，使 LLM Agent 能判断记忆价值，检索高价值经验，提升复杂未知环境下泛化性能与任务成功率。
Sam Altman 最新文章：悄然而至的奇点，一场温和的革命
Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。
奥特曼深夜长文警告：AI巨头必须集体「踩刹车」！
本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。
刚刚，Anthropic紧急换帅！新任CTO执掌算力命脉，直面OpenAI千亿赌局
Anthropic宣布任命前Stripe CTO Rahul Patil为新任CTO，原CTO Sam McCandlish转任首席架构师。此次换帅是为强化AI基础设施，应对Claude产品压力及OpenAI、Meta的竞争。
西交大 x A*STAR 论文：让 AI 学会「保持一致」，多图生成迎来关键突破丨CVPR 2026
西安交大与新加坡A*STAR团队提出论文《PaCo-RL: Advancing Reinforcement Learning for Consistent Image Generation with Pairwise Reward Modeling 》，将一致性问题转为“跨图比较”学习问题，结合强化学习实现能力闭环，提升多图生成一致性。
北大校友、华人学者金驰新身份——普林斯顿大学终身副教授
华人学者金驰宣布在普林斯顿晋升为终身副教授，任命2026年1月16日生效。他在机器学习理论领域贡献大，为LLM崛起提供数学基石，解决非凸优化和强化学习样本效率等问题。
微软发布AI Agent故障白皮书，万字解读各种恶意智能体
微软发布《AI Agent系统故障模式分类》白皮书，解读Agent故障。故障分新型和既有两类，如智能体伪装、智能体内在安全问题等，还给出身份管理、内存强化等安全设计建议。