「对齐研究」共找到 2061 篇相关文章
Salesforce 最新研究：LLM 智能体 CRM 测试成功率低至 35%，保密意识还低，企业敢用吗？
Salesforce AI 研究团队新基准测试显示，LLM 智能体在 CRM 测试中表现欠佳，单步任务成功率约 58%，多步任务降至 35%，且保密意识低，与企业需求差距大。
Anthropic重磅新研究：当AI采访了1250人，它看见了人类的「职业软肋」
Anthropic推出Interviewer工具，与1250名职场人、创作者、科学家深度对话，记录细节并量化。该工具能自动完成访谈、分析等流程，受访者满意度超97%。研究揭示不同职业对AI态度受职业结构等因素影响。
加速近5倍！北大与字节团队提出BranchGRPO，用「树形分叉 + 剪枝」重塑扩散模型对齐
北京大学与字节团队提出 BranchGRPO 新型树形强化学习方法，通过在扩散反演中引入分叉与剪枝，解决扩散/流匹配模型人类偏好对齐难题。该方法在图像与视频生成任务中表现优异，迭代时间最高近 5 倍加速。
Nature重磅研究：大模型让你变得更聪明还是更笨了？创造力增强还是扼杀了?
《自然》研究表明，大语言模型对创造力的影响取决于任务。简单任务中，它像灵感助推器，分担认知负荷；复杂任务里，易致‘创意固化’，长期依赖还可能使大脑‘变懒’。需按需调节使用。
AAAI 2026杰出论文奖 | ReconVLA：具身智能研究首次获得AI顶级会议最佳论文奖
具身智能常被视为‘系统工程驱动’研究方向，ReconVLA获AAAI杰出论文奖，是具身智能方向首次获AI顶级会议最佳论文。它解决VLA模型关键瓶颈，通过重建式隐式视觉定位机制，实验效果显著。
大模型是否对问题难度有预判？最新研究揭示 LLM 内部的“难度感知机制”
近期论文《Probing the Difficulty Perception Mechanism of Large Language Models》系统性解答大模型能否感知问题难度等问题。研究基于数据集在主流 LLM 上训练轻量线性探针，定位负责难度感知的注意力头，还发现不同模型表现有差异。
首次实现第一视角视频与人体动作同步生成！新框架攻克视角-动作对齐两大技术壁垒
新加坡国立大学等联合发布EgoTwin框架，首次实现第一视角视频与人体动作联合生成，攻克视角-动作对齐与因果耦合瓶颈。它基于扩散模型，通过三大创新设计解决难题，实验性能超基线。
探针伸进大模型黑箱，南加州大学华人团队打造AI记忆研究的深空望远镜
南加州大学 Robin Jia 教授团队借助英伟达算力，构建基于 Llama 3 架构的全开源受控大模型 Hubble，其成果将在 ICLR 2026 亮相。研究揭示大模型记忆机制效应，还评估了‘机器遗忘’技术，有法律应用潜力。
图文跨模态“近视”问题破局：360开源新模型 FG-CLIP，实现细粒度图文对齐突破｜ICML2025
360人工智能研究院发布 FG - CLIP 模型，攻克图文细粒度对齐难题，成果被 ICML 2025 接收并开源。它采用双阶段训练等策略，在多任务评测中超越对比模型，推动跨模态研究产业化落地。
阿里新开源提出建设性安全对齐方案，向“让用AI的人安全”新范式跃迁
阿里巴巴集团安全部联合多高校发布技术报告，提出建设性安全对齐理念并集成到Oyster - I模型。该理念突破传统防御式机制，构建新博弈框架，实验显示该模型在安全和通用能力上达SOTA水平。