算法论文8
GuideBench评测：大模型指令遵循能力待提升
深度学习自然语言处理
AI 摘要
上海交通大学与抖音团队论文提出GuideBench评估大模型领域指南遵循能力。实验表明多数大模型表现不佳，数学推理挑战大，严格遵循规则重要，未来可从多语言等维度拓展能力。
阅读原文 · 深度学习自然语言处理
ACL 2025 | 指令遵循不能仅靠常识？GuideBench 揭示大模型如何“踩雷”领域指南规则
这篇ACL 2025主会论文聚焦提升智能体指南规则遵循能力。提出评估基准GuideBench，涵盖7类1272个任务。实验显示多数主流大模型指令遵循能力不佳，尤其数学推理挑战大，为模型迭代提供评估基准。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
产品应用8
阿里云平台完成 DeepSeek Harness 评测
本文分享基于阿里云 AgentLoop 平台的 DeepSeek Harness 评测实践。介绍了 DeepSeek Harness 工程架构，阐述 AgentLoop 平台接入方式及价值，还详述评估器设计思路、展示评测结果，最后总结方法论并展望后续工作。
阿里云开发者
开源动态7
HarnessEval开启RSI时代新评测范式
过去一年AI进入RSI时代，但评测方式仍停留在过去。MirroS联合多方发布HarnessEval，将Harness引入评测领域，使评测成为具备自我进化能力的智能系统，还率先应用于交互式世界模型评测。
特工宇宙
新闻资讯7
DeepSeek涨价，OpenAI降价，Agent改写价格战
近期，DeepSeek上调API价格，V4 Pro等型号涨幅明显；而OpenAI的GPT - 5.6 Luna API价格降80%，Terra降20%。这背后是大模型价格竞争方向转变，受竞争、广告、效率及Agent使用方式等因素影响。
DeepTech深科技
开源动态7
macOS Harness：让 AI 操作整台 Mac
macOS Harness 是 browser - use 团队开源项目，目标是让 LLM 用持久化 Python 进程完成 Mac 上几乎所有任务。它仅提供六个原始操作，模型用其操作应用，还能在运行中补全缺失部分。项目有诸多优势，目前仅支持 macOS。
AI工程化