搜索：学术基准测试

「学术基准测试」共找到 2182 篇相关文章

蚂蚁 | 提出代码检索/重排基准：CoREB，揭开高分榜背后的三大幻觉，现已接入MTEB

蚂蚁研究人员提出代码检索与重排评测基准CoREB，解决现有基准相关性软、数据污染、任务方向单一问题。它已集成进MTEB，收录19个模型×6个任务评测结果，为代码检索模型评估提供新基线。

全球最难AGI测试ARC - AGI - 3上线，人类满分通关，最强模型Opus 4.6仅得0.2%。测试从静态题变为互动游戏，评分看效率。前沿大模型得分低，非LLM方案表现更好，AI缺乏元认知能力。

视频生成模型如Veo - 3能生成逼真视频，但推理能力存疑。香港中文大学等校研究者设计12项测试，发现模型只能模仿表面模式，未真正理解因果。研究推出MME - CoF基准，为评估指明方向。

现有AI记忆评测只记'事'不记'人'，存在数据源窄、不重理解、注入成本高的问题。QuantaAlpha联合高校团队提出CloneMem基准测试，用'数字痕迹'评估AI Clone长期记忆能力，实验有反直觉结论并给出设计启示。

文章介绍了用于评估AI Web渗透测试能力的XBow Benchmark，它已在github开源。该基准含104个Web安全挑战，涵盖多种漏洞，设计确保可重复性和状态持久性，其评估能力获广泛认可，还介绍了开源内容等。

剑桥大学团队开源面向AI个人助理的长期记忆基准测试ATM - Bench，评估AI面对真实生活数据时能否「记住你」。实验结果不佳，专用和通用智能体系统准确率低，凸显长期个性化记忆问答难题。

复旦大学等团队推出OmniLottie框架，利用创新分词技术将视频、图文指令变成高质量矢量动画。团队还打造数据集MMLottie - 2M，构建测试基准MMLottie - Bench。实验显示，OmniLottie在多任务测试中优势明显。

现有AI记忆评测存在数据源单一、忽视变化本质、注入成本高等局限。开源学术社区QuantaAlpha联合高校团队提出CloneMem基准测试，构建合成人生，设计评测任务，实验发现简单方法在检索上更有效，记忆系统应还原信息。

深夜，字节跳动Seed团队开源Seed-OSS系列模型，含三个版本。其用12万亿tokens训练，在多基准测试表现出色。有灵活推理预算控制等特性，原生支持512K上下文窗口，基准测试成绩佳。

OpenAI正式发布GPT - 6 Astra和GPT - 6 Astra Pro，宣布AGI时代开幕。该模型训练规模大，能力升级显著，价格公布。基准测试成绩优异，在多方面表现突出，还展示诸多实际应用案例，已有企业开始测试。