「自动化评估」共找到 1147 篇相关文章
一行命令，让任何软件秒变AI神器！这个GitHub项目杀疯了
AI智能体推理强但使用专业软件能力差，现有解决方案不佳。CLI - Anything自动化框架打破困境，能让AI通过命令行控制软件，为13款软件生成CLI，有7阶段流水线，多场景适用，介绍了使用方法和项目地址。
CVPR'26 | 以机器人为中心的ToM推理框架，从心智推理到决策行动
吉林大学、台湾大学和微软亚洲研究院联合提出MindPower Benchmark，构建以机器人为中心的ToM推理框架，统一建模环境感知、心智推理等，还构建数据集和评估指标。引入Mind - Reward强化优化，提升ToM决策与动作生成性能。
大模型微调评测入门：看懂这些指标，才知道模型好不好
文章指出大模型微调中很多新手重“调”轻“评”，评测是决定模型落地的关键。介绍分类和生成任务评测指标，给出实操步骤，还说明如何综合判断模型好坏，最后展望评测技术朝自动化等方向发展。
拿着做数学题的 PRM 来评判 Agent 调用工具，基本是行不通的！
目前评估体系多为结果导向，在工具调用上缺乏像样的PRM基准。Arizona State University和Intuit AI Research研究者推出ToolPRMBench，指出用做数学题的PRM评判Agent调用工具行不通，还介绍了其构建方法、训练范式和实验结果。
GPT-5准确率不足40%！北大发布多模态、高难度化学基准SUPERChem
北大团队发布多模态、高难度化学基准SUPERChem，构建评估大语言模型化学推理能力新体系。测试显示，GPT - 5准确率仅38.5%，与低年级本科生相当，且模型在高阶推理有短板，该基准为模型优化指明方向。
谷歌发布智能体Scaling Law：180组实验打破传统炼金术
谷歌新论文通过180组实验找到智能体的Scaling Law（定量扩展原则），在四个基准测试评估，推导预测模型，实验结果颠覆直觉，还量化阻碍因素，发现不同模型协作性格，为智能体部署决策提供支撑。
分析1.8亿份招聘数据后，他告诉你AI究竟取代了哪些工作
本文分析1.8亿份全球招聘信息，发现AI不是造成大规模失业主因，影响因岗位而异。创意执行类岗位下降多，AI基建岗位增长，程序员、客服、销售较稳定，高层受冲击小，还给出评估岗位安全的建议。
大模型追逐星辰大海，GPT和Gemini国际天文奥赛夺金
新论文以国际天文学和天体物理学奥林匹克竞赛 (IOAA) 为基准测试，证明 GPT - 5 和 Gemini 2.5 Pro 能在天文奥赛获金牌。研究还分析不同模型表现、与人类成绩对比及错误类型，强调需全面评估模型科研潜力。
通用模型无法完全理解用户，AI产品的下一站是上下文的战场｜对话AI知识助手remio
量子位智库对话remio创始人汪源，探讨其开发初衷、核心价值等。remio主打无感自动化，成用户第二大脑，有信息捕获、管理等功能，数据本地存保隐私。还聊了目标用户、指标、功能及应对竞争等。
告别AI“乱画图表”！港中文团队发布首个结构化图像生成编辑系统
现有AI生图工具在结构化图像生成上问题多，理解与生成能力有鸿沟。港中文等校联合团队提出首个综合性方案，涵盖数据集构建、模型优化、评估基准三大模块，助多模态模型画准图，推动其发展。