「SWE基准测试」共找到 2071 篇相关文章
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
从Debugger到Developer : 低代码时代新基准NoCode-bench，SWE-Bench作者力荐
浙江大学牵头联合多机构推出全新评估基准NoCode - bench，直面自然语言驱动功能添加任务，发现当前最佳LLM成功率仅两成。它构建严谨，任务挑战大，指明AI软件开发改进方向，且已开源。
Agent全自动搭建代码运行环境，实时更新解决评测过拟合/数据污染问题｜微软
长期以来主流代码修复评测基准SWE - bench问题多，制约AI模型能力展现。微软发布SWE - bench - Live，引入新Issue，实现环境自动化构建与更新，打破传统局限，还揭示传统基准过拟合问题。
红杉中国推出 Agent 基准测试「xbench」，双轨评估体系，关注 AI 真实场景的效用
红杉中国开放AI和Agent基准测试工具「xbench」，采用双轨评估体系，构建多维度测评数据集。首期发布两个核心评估集并排名，提出垂类Agent评测方法论。该工具旨在解决现有评估问题，关注AI真实场景效用。
专业医生远不如AI模型？OpenAI推出医疗开源测试基准HealthBench，o3表现最强
OpenAI推出医疗开源测试基准HealthBench，由262位多国医生合作打造，含5000段真实健康对话。评估显示o3综合表现最佳，顶尖AI处理任务能力超无辅助医生，HealthBench更真实专业有区分度，但也有局限。
首个测试时共进化合成框架TTCS：在「左右互搏」中突破推理瓶颈
厦门大学DeepLIT课题组提出全新测试时课程合成框架TTCS，不依赖外部标注，通过生成器与求解器共进化博弈合成课程数据，解决测试样本过难导致的训练坍塌问题，实验显示其推理能力提升显著。
GPT-5得分不到0.4！法律+金融最大规模基准：1.9万+专家评估准则
新推出的PRBench基准可测AI在金融和法律领域表现。它有19356条专家评估准则，是该领域最大公开基准。顶尖大模型在困难子集得分低，还独创经济路径分析维度，约30%任务为多轮对话，揭示了AI在专业领域的不足。
GPT-5基准测试泄露，被曝两天后发布？打Minecraft震撼开挂网友直呼封神
GPT - 5消息不断，泄露的基准测试及Minecraft实测惊艳网友。有爆料称7月31日发布，也有消息指8月。它或统一o与GPT系列，编码能力强，能处理复杂编程任务，不过也引发对其影响的担忧。
打破AI能力的惯性评估方式，红杉中国推出全新双轨基准测试xbench｜甲子光年
红杉中国推出全新AI基准测试工具xbench，采用双轨评估体系，构建多维度测评数据集，追踪模型理论能力上限与Agent实际落地价值。还采用长青评估机制，首期发布两个核心评估集并给出综合排名，公开后邀各界完善。
世界模型评测的最大盲区，被这个新基准捅破了
过去一年，‘世界模型’成视频生成领域热词，厂商强调产品要模拟真实世界运行规律，但业界评测一直未能精准检验其‘物体恒存’的认知能力。为此，研究者提出新基准MemoBench，测试了主流模型，揭示其短板。