搜索：代码测试基准

「代码测试基准」共找到 3587 篇相关文章

视频推理界的“福尔摩斯测试”：所有大模型，统统不及格 | 论文代码开源

腾讯ARC Lab和香港城市大学推出Video - Holmes，这是视频推理界的‘福尔摩斯测试’，能展现多模态大模型复杂视频推理能力的边界，规避现有Benchmark痛点，测试中所有大模型全部不及格，代码已开源。

吴恩达分享团队用AI编程助手的经历，如Agent删代码。他认为AI辅助编程时代，自动化测试愈发重要，智能体测试能发挥作用，还强调优先测试基础设施代码，后端测试更关键。

FACTS 基准测试套件由 FACTS 团队与 Kaggle 联合开发，基于原 FACTS Grounding Benchmark 增加三个新基准，可从四个维度评估大模型事实性。初步结果显示进展与挑战并存，多模态成难题。

本文提出LiveRepoReflection基准，评估多文件仓库代码理解和生成能力，含1888个测试案例。创建RepoReflection - Instruct数据集训练RepoReflectionCoder，评估40多个LLMs，结果显示其能有效测模型反思修复能力。

Cloudflare 推出 Dynamic Worker 公开测试版，面向付费用户。它用 V8 Isolates 运行代码，启动快、内存效率高，基于 Code Mode 理念，用 TypeScript 接口定义 API，有多种防护策略，还发布配套库，已用于生产。

OpenClaw 持续发酵，从极客「玩具」变为生产力工具。闭门分享中，开发者们探讨了其在实际业务中的应用。如代码成负债，测试更重要；不同用户对 OpenClaw 认知差异大；Platform Engineering 成工程师核心，还提及 Agent Computer 新硬件形态等。

华为研究团队推出仅基于监督微调（SFT）的软件工程代码智能体SWE-Lego，无需复杂RL流程，在SWE-bench Verified基准中表现出色，项目已开源。它有数据、训练和测试时扩展三大创新。

多模态大模型代码能力进步大，但基础视觉任务常失误。UniPat AI开源SWE-Vision框架，让模型用Python代码处理视觉判断。它极简设计，在五个视觉基准测试达最优，提升前沿模型视觉表现。

多模态大模型代码能力强，但基础视觉任务常失误。UniPat AI推出极简视觉智能体框架SWE-Vision，让模型用代码弥补视觉短板，在五个主流视觉基准测试达最优。该框架设计独特，开源代码和数据已发布。

作者测试了 GPT-5 的代码能力，并与 Gemini 和 Claude 对比。在不同代码任务中，各模型表现不同。如在生成网页任务里，GPT-5 部分结果不错，但受 32K 上下文限制，长文本处理不如 Gemini，硬实力也不如 Claude。