「评测缺陷」共找到 858 篇相关文章
「世界理解」维度看AI视频生成：Veo3和Sora2水平如何？新基准来了
近年来，T2V模型进展显著，Sora2爆火引发对其是否为‘世界模型’的探讨。传统基准无法系统衡量模型对事件因果等的理解，中山大学等团队提出新评测框架VideoVerse，评测主流模型并发现开源与闭源模型差距及各模型缺陷。
让 AI 组队干活，最强模型也只完成约一半任务：AgentWorld 如何评测 Agent 协作能力？
单个AI Agent能力不断提升，但多智能体协作能力缺乏系统评测。本文介绍新推出的AgentWorld评测基准，结合长时程任务、角色不对称与黑盒交互，评测多智能体协作能力，给出主流大模型的协作表现数据。
具身智能迈入下半场，RoboMemArena全面评测机器人记忆系统
香港科技大学（广州）等多机构打造具身智能评测基准 RoboMemArena，突破传统局限，构建综合评测体系，配套真机测评。它提供多模态标注，任务长程多样，开源资源易用，PrediMem 在其上表现出色。
不止修bug：Agentic Coding评测走向复杂feature交付新阶段
中国科学院自动化研究所联合华为提出 FeatureBench，构建端到端基础设施并开源。它从单元测试出发构造评测任务，引入多种机制保障任务可执行、可验证，能有效区分模型能力，还提供易用的评测流程。
突破泛化瓶颈：阿里云智能运维 Agent 评测体系实践
大模型 Agent 在智能运维场景落地常遇泛化难题。阿里云李也博士介绍利用评测集验证和提升智能运维算法泛化性的实践，阐述评测集重要性、构建方法，还展示其在提升智能运维 Agent 能力上的成效。
Anthropic：警惕评测排行榜！差别可能只是机器的内存更大，而已
Anthropic发工程博客指出，AI编程评测排行榜上排名前列的模型分差小，而运行环境硬件配置能让分数波动6个百分点。同一模型在不同沙箱策略下分数不同，资源配置影响评测结果，排行榜分数差距或因硬件。
让AI评测AI：构建智能客服的自动化运营Agent体系
文章介绍智能客服发展，从传统机器人客服到基于AI原生的智能客服。重点探讨对话效果评测，搭建运营Agent平台，实现服务闭环。还提及评测落地方法、难题及解决措施，最后阐述AI在服务链路提效和分析转人工原因的作用。
从3632个漏洞看AI时代的评测基准重构！VulnGym基准发布
随着新一代漏洞检测工具出现，漏洞检测走向理解业务风险。腾讯悟空安全团队联合多机构发布 VulnGym 评测基准，基于真实漏洞构建，覆盖 400+ 漏洞路径，71.2% 为业务逻辑漏洞，支持确定性评测。
二元成功率已经过时！PRM-as-a-Judge才是你需要的具身操作评测框架
传统二元成功率评测具身操作任务有局限，难回答策略推进、执行效率等问题。中科院自动化所等机构研究人员提出PRM - as - Judge框架，含进度势能、OPD指标体系和RoboPulse基准，能细粒度审计执行过程。
首个用户生活「长程模拟器」来了！LifeSim 重新定义大模型个性化评测
现有个性化助手评测基准与真实用户-助手交互脱节，来自复旦大学等的研究人员提出 LifeSim 框架及 LifeSim-Eval 评测方法。实验显示主流 LLM 处理显性需求尚可，隐性意图识别等方面短板明显。