「对齐评测」共找到 832 篇相关文章
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
速度提升，能力却暴跌？扩散模型做智能体的残酷真相
南洋理工大学陶大程教授团队联合发布评测报告，揭示扩散语言模型在智能体能力上有系统性缺陷，落后自回归模型。还分析其失败原因，提出评测框架，明确能力边界并给出研究建议。
机器人长出800个心眼？阿里达摩院开源具身新大脑，硅谷又坐不住了
2026年具身智能竞争激烈，阿里达摩院开源RynnBrain“具身大脑”。它采用分层架构，在16项评测中超越前沿模型。还介绍了核心技术、训练策略等，且全系列模型、评测基准和代码均开源。
蚂蚁 | 提出代码检索/重排基准：CoREB，揭开高分榜背后的三大幻觉，现已接入MTEB
蚂蚁研究人员提出代码检索与重排评测基准CoREB，解决现有基准相关性软、数据污染、任务方向单一问题。它已集成进MTEB，收录19个模型×6个任务评测结果，为代码检索模型评估提供新基线。
华人团队让AI把表格“翻译”成问题，检索速度×5
表格检索在RAG里是小众问题，传统表格问答系统有Retriever和Reader组件，关键是对齐表格与问题语义。QGpT能生成模拟问题，使表格语义更丰富、对齐更准确，分离线、在线阶段，训练后可提升检索收益。
让龙虾看懂屏幕！谷歌多模态新成果，文本图像视频音频进同一空间
谷歌发布首个原生多模态嵌入模型Gemini Embedding 2，将文本、图像、视频、音频和文档映射进同一嵌入空间，支持多模态混合输入，为AI Agent“看懂”世界提供关键基础，已展开公测。
单卡搞定万帧视频理解！智源研究院开源轻量级超长视频理解模型Video-XL-2
智源研究院联合上海交通大学等机构发布新一代超长视频理解模型Video-XL-2。它单卡能处理万帧视频，编码2048帧仅需12秒，在效果、长度和速度上全面优化，已开放模型权重。
模型不是企业的护城河，那什么才是？
文章指出企业AI进入深水区后，真正的竞争是将AI变成企业自己的智能引擎。衔远科技创始人周伯文提出泛化基础上的深度专业化是企业竞争力来源。衔远发布EnterpriseClawBench，揭示企业需私有化评估和可持续进化能力。
字节清华智能体自动写CUDA内核，比torch.compile加速2.11倍
字节Seed与清华AIR团队开源CUDA Agent，在GPU内核优化基准KernelBench上成绩优异。它是大规模智能体强化学习系统，训练数据经多阶段构建，分阶段训练，全面超越商业模型，还开源了训练数据集。
走出 MMLU 的高分幻觉：AI Agent 的「斯坦利时刻」与职场生存法则
文章指出多模态大模型在基准测试分数高，在实际业务流程却像‘职场巨婴’。研究团队构建Trainee - Bench测试顶尖模型，结果显示模型离‘独立上岗’远，凸显提升Agent自主学习性的重要性。