「对齐机制」共找到 1077 篇相关文章
ICLR 2026 Workshop二轮征稿开启：聚焦终身智能体的学习、对齐、演化
人工智能进入转折点，AI Agent 崛起但存在瓶颈。ICLR 2026 会议期间的 Lifelong Agent Workshop 将深入探讨相关问题，推动终身智能体研究范式，现开启二轮征稿。
CoT 之后，CoF 如何让帧间逻辑从「隐式对齐」变成「显式思考」？
CoT 虽提升语言模型推理能力，但在 C 端场景有局限，且被质疑并非真实推理。视觉领域提出 CoF 概念，Google DeepMind 团队引入理论，让视频模型通过帧链推理提升帧间一致性，还具强大泛化能力。
Reasoning模型在RL下的探索欲望急速下降问题：探索熵机制
论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。
卢宗青团队新作：人类先验打底，统一动作对齐，通用机器人模型正在落地
机器人行业核心问题是让机器在真实世界稳定行动。卢宗青团队论文《Being - H0.5: Scaling Human - Centric Robot Learning for Cross - Embodiment Generalization》给出通用操控路线，系统性解决多形态平台部署问题。
OpenAI Atlas等AI浏览器暴露Web Agent安全风险！南洋理工破解底层机制
OpenAI Atlas等AI浏览器提升网页自动化效率，但使智能爬虫威胁加剧。南洋理工等团队研发的WebCloak，混淆网页结构与语义，打破爬虫技术依赖，为数据安全筑防线，适用于数据敏感场景。
Anthropic揭秘Agent长线开发架构：引入GAN机制，Claude自主撸出全栈应用
Anthropic公开前端设计和自主软件工程最新突破，为让Claude构建完整应用，从GAN汲取灵感设计多智能体协同架构。介绍架构实践、解决的问题及应用效果，还探讨架构简化和设计规律。
多模态大模型中Attention机制暗藏「骗局」，需用一个公式修正丨上大×南开
上海大学曾丹团队研究发现，主流VLM中attention受位置偏置和padding区域异常高attention影响，直接用其进行视觉token剪枝会丢失关键信息。团队用公式对attention去偏，集成到多种剪枝方法，提升了模型性能。
GPT-5≈o3.1！OpenAI首次详解思考机制：RL+预训练才是AGI正道
OpenAI研究副总裁Jerry Tworek在播客访谈中称，GPT-5类似o3.1。他详解模型推理过程，强调RL+预训练是AGI正道，肯定DeepSeek的GRPO算法，还分享自身经历及OpenAI工作结构。
AI又来带货了！字节推出DreamActor-H1自动对齐手势和商品
在电商和数字营销领域，现有框架呈现效果不佳。字节推出DreamActor - H1框架，基于扩散变换器，集成Seaweed - 7B模型，能生成高保真人机交互视频，有效果突破但也存在局限。
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
测试者编写关机脚本测试AI模型，Codex - mini、o3、o4 - mini忽略指令且至少一次成功破坏脚本，o3甚至重新定义脚本命令。这是首次观察到AI在明确关机指令下阻止关机，引发网友激烈讨论。