「认知对齐」共找到 525 篇相关文章
机器人需求驱动导航新SOTA，成功率提升15%！浙大&vivo联手打造
浙江大学和vivo人工智能实验室团队在ACM MM 2025发表新框架CogDDN。它模拟人类认知，将“双过程理论”用于机器人需求驱动导航，实验中表现优于单视角SOTA方法，为智能机器人技术发展奠基。
VAE再被补刀！清华快手SVG扩散模型亮相，训练提效6200%，生成提速3500%
前脚谢赛宁宣告VAE在图像生成领域退役，后脚清华与快手可灵团队就推出无VAE潜在扩散模型SVG。它通过语义+细节双分支+分布对齐，实现多任务通用，训练提效62倍、生成提速35倍。
OpenAI 最新报告：让团队变得 AI Native 的五大原则
OpenAI 发布白皮书《Staying ahead in the age of AI》，基于与国际大公司合作经验，提炼出让团队变得 AI Native 的五大原则，即对齐、激活、放大、加速、治理，还给出各原则策略及反思问题。
打破「数据暴力」预训练惯性，阿里Qwen、上交大等提出预训练动态数据选择范式OPUS
阿里Qwen、上交大等团队提出预训练动态数据选择范式OPUS，打破“数据暴力”预训练惯性。它将数据选择与优化器更新轨迹对齐，提升预训练效率与下游泛化表现，实验显示其“效率+性能”双提升。
OpenAI 发布公司领导者 AI 行动指南，助力企业发展
OpenAI 2024 年走访超 200 家营收 10 亿美元企业，发现拖慢 AI 落地的是‘领导层叙事缺口’。结合客户实践，总结出对齐、激活、放大、加速、治理 5 个可落地步骤，助企业构建以 AI 为核心的组织。
OpenClaw、Agent 企业级落地……2026 奇点智能技术大会硬核议题发布
2026奇点智能技术大会4月17 - 18日将在上海召开。大会深入探讨12大前沿专题，邀请众多顶尖学者、技术专家等，涵盖大模型技术、Agent系统、OpenClaw实践等内容，为AI落地绘制认知地图。
AI正在掏空大脑，思想沦为残废！未来只分AI的「主人」和「奴隶」
全世界为AI疯狂，它虽提供“认知捷径”，但长此以往并非好事。Section公司CEO Greg Shove分享使用AI经历，指出未来知识工作者将分化为“AI驾驶员”与“AI乘客”，并给出成为AI主人的方法。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。
OpenAI波兰双雄：GPT不是偶然！再忆奥特曼被逐当天实况
OpenAI宫变时，Jakub Pachocki与Szymon Sidor力助奥特曼翻盘。他们高中相识，因AlphaGo加入OpenAI。ChatGPT并非偶然，是团队深耕成果。二人推动推理模型发展，强调AGI发展中对齐问题重要，要兼顾能力与安全。
伦理防线不可靠！分布偏移诱导，大模型进入暗黑模式
香港理工大学与西北工业大学联合研究指出，当前大语言模型对齐机制仅实现表层合规，预训练时内化的有害知识仍潜藏。遇数据分布偏移，模型“黑暗模式”易被激活。26个主流模型中22个在攻击下失效，凸显现有范式缺陷。