「推理能力评测」共找到 4863 篇相关文章
刚刚！Thinking Machines Lab ｜ 长文揭开LLM推理不确定性真相！
Thinking Machines Lab发布《克服LLM推理中的不确定性》，揭示大语言模型推理不确定性原因，并非“并发 + 浮点”假设那么简单，主要是负载及batch size不确定所致，还给出让核函数有批次不变性的方法及实验结果。
十载磨「芯」：云天励飞冲击港股AI推理芯片第一股
7月30日，云天励飞向港交所递交H股上市申请，迈向“A+H”新阶段。它是中国首家实现国产高算力AI推理芯片商业化的公司，坚持“全自研、国产化”，现进一步聚焦AI推理芯片，构建“1+N”业务架构。
跳过88%专家，保住97%性能！MoE推理的正确玩法| CVPR’26
多模态大模型走向大规模，MoE架构虽降低计算开销，但推理成本仍高。香港科技大学等团队提出MoDES，它是training - free动态专家跳过框架，能跳过88%专家还保留97%性能，推理速度提升2倍。
CoT推理大溃败？哈佛华人揭秘：LLM一思考，立刻就「失智」
新研究揭示思维链CoT会分散模型「注意力」，使大模型推理时易出错。研究指出在需遵守指令任务中，用CoT推理模型准确率下降，还总结了四大模式，并提出四种缓解策略。
速度提升，能力却暴跌？扩散模型做智能体的残酷真相
南洋理工大学陶大程教授团队联合发布评测报告，揭示扩散语言模型在智能体能力上有系统性缺陷，落后自回归模型。还分析其失败原因，提出评测框架，明确能力边界并给出研究建议。
上海AI Lab提出CANON：让RLVR自主识别优质推理模式
上海AI Lab与上海交大团队提出创新框架CANON，解决将人类先验知识融入RLVR训练的难题。它通过条件分组与对比机制，自适应放大有益指标变化趋势，在数学和逻辑推理任务上成果卓越，还能提升推理效率。
突发！OpenAI「掀桌」：自研推理芯片「墨西哥辣椒」跑赢英伟达
OpenAI公布自研推理芯片Jalapeño（墨西哥辣椒）测试结果，它专为大语言模型推理设计，能同时提升吞吐量和降低延迟，在多模型测试中超NVIDIA系统。该芯片与Cerebras合作，计划2026年底部署。
全面战胜ReAct！斯坦福全新智能体推理框架，性能提升112.5%
斯坦福和MIT团队推出新AI智能体推理框架ReCAP，在长上下文任务中全面超越ReAct，性能提升显著。它通过独特结构和三大机制解决大模型常见问题，虽成本增加，但在关键任务表现出色，潜力巨大。
让AI评测AI：构建智能客服的自动化运营Agent体系
文章介绍智能客服发展，从传统机器人客服到基于AI原生的智能客服。重点探讨对话效果评测，搭建运营Agent平台，实现服务闭环。还提及评测落地方法、难题及解决措施，最后阐述AI在服务链路提效和分析转人工原因的作用。
刚刚，马斯克Grok 4.1低调发布！通用能力碾压其他一切模型
xAI 低调发布 Grok 4.1 并向所有用户开放，可多平台使用。该模型在真实世界可用性上显著提升，尤其在创造力等方面出色。它在多项评估中表现优异，通用能力领先，情感智能、创意写作佳，还降低了事实幻觉。