「编程基准测试」共找到 2946 篇相关文章
编程新王Composer 2.5来了，逼近Opus 4.7！成本仅为1/10
Cursor推出全新AI编程模型Composer 2.5，在部分编程基准测试上接近Claude 4.7 Opus和GPT - 5.5，运行效率最高提升10倍，成本仅为竞品一小部分。其采用定向文本反馈RL等机制，还与SpaceXAI合作冲击百万H100集群算力。
Salesforce 最新研究：LLM 智能体 CRM 测试成功率低至 35%，保密意识还低，企业敢用吗？
Salesforce AI 研究团队新基准测试显示，LLM 智能体在 CRM 测试中表现欠佳，单步任务成功率约 58%，多步任务降至 35%，且保密意识低，与企业需求差距大。
基于浏览器请求录制与AI代码生成的E2E接口自动化测试实践
文章以阿里云DataWorks为例，介绍通过浏览器录制插件捕获请求数据，结合AI编程工具生成接口封装与测试用例，解决复杂平台自动化测试难题，对比传统与新范式，剖析新范式优势、协作机制等。
成功率最高暴跌36.9%！南洋理工首个“模糊指令”测试，直击具身智能落地软肋
南洋理工大学MARS Lab团队联合发布测试基准REI-Bench，量化现有具身智能大模型缺陷。在其测试下，主流任务成功率最高降36.9%。研究还剖析错误原因，给出解法，望引起学界重视。
北大伯克利联手“拷问”大模型：最强Agent也才40分！新基准专治“不听话”的AI分析师
北大与伯克利团队推出IDA - Bench新基准，模拟真实数据分析场景，解决现有基准无法评估大模型在动态交互中可靠性的问题。测试显示，顶尖大模型成功率最高仅40%，不同模型还暴露多种问题。
GPT-5、Grok 4、o3 Pro都零分，史上最难AI评测基准换它了
AAI机构提出新基准FormulaOne，让GPT - 5、o3 Pro等前沿大模型集体得零分。该基准含220个图结构动态规划问题，分三类难度。测试结果显示，模型在深层及最深层难度表现差，引发关注。
24B模型编程超DeepSeek全家桶，32G内存苹果电脑就能跑，专门针对真实GitHub Issue训练
Mistral发布最新开源编程模型Devstral，参数24B，能在单卡RTX4090甚至32G内存Mac上运行。它专为编程智能体推出，针对真实GitHub Issue训练，在SWE - Bench Verified测试中表现出色，还可与All Hands AI框架配合。
8B模型任务击败GPT-5？阶跃星辰开源Deep Think新框架，小模型解锁百万Token测试时计算
阶跃星辰推出并行协同推理框架PaCoRe，让大模型突破上下文窗口和处理速度限制。基于此框架，小模型能解锁百万级Token测试时计算。PaCoRe - 8B在数学基准测试中超越GPT - 5，还具备前沿性能、“综合”能力涌现等优势。
所谓“氛围编程”，不过是“技术债”的新马甲
本文编译自 Steve Krouse 演讲与博客，指出‘氛围编程’代码即遗留代码、‘技术债’，编程核心是理论构建。还认为工具优于智能体，代码是描述软件的正确媒介，人类大脑在编程中始终是核心。
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。