搜索：推理性能优化

「推理性能优化」共找到 4211 篇相关文章

阶跃开源JetSpec，大模型推测解码提速近10倍

随着Agent应用爆发，大模型推理效率成AI行业焦点。阶跃星辰联合多校团队开源JetSpec，该框架面向推测解码，在H100上把MATH - 500解码速度提升到9.64倍，突破了推测解码的扩展天花板。

本文围绕AI搜索时代公司官网的重要性展开。指出国内官网流量减少是因搜索流量迁移，而在AI时代官网成重要信源。还阐述官网作用变化、AI友好内容标准、页面优化重点及应注重信任标签。

火山引擎在 Force 大会发布豆包大模型 Seed 2.1 Pro 系列，API 上线火山方舟。作者实测用其完成大学生就业补贴政策网站开源项目，展示模型 Coding 和 Agent 能力，还提及性能、成本等优势及后续计划。

阿里通义千问团队发布的 Qwen3.7-Max，或为面向 Agent 时代的旗舰模型。它能自主跑 35 小时、完成 1158 次工具调用，内核优化不掉线，多项评测领先，应用场景丰富，已上线且兼容主流框架。

西湖大学研究团队提出PiEvo框架，将科学发现重点从“搜索假设”转变为“进化科学原理”，通过不确定性最小化实现原理空间自主扩展。该框架构建双循环优化机制，实验结果显示其核心指标超越SOTA，收敛速度大幅提升。

随着人工智能等领域发展，系统对数据吞吐能力需求攀升。牛芯半导体基于国产先进工艺研发DDR5/LPDDR5 IP，实现6400Mbps高性能验证，通过创新弥补工艺代差，打通国产链路，具成本和安全优势。

Artificial Analysis推出业内首个语音转语音智能体端到端性能基准τ - Voice，测试真实客服场景能力。结果显示最强S2S模型成功率刚过一半，Grok Voice Think Fast 1.0夺冠，但也面临诸多质疑。

阿里版「电商龙虾」Accio Work打通国际站，一个工作台可全包选品、发品等七个岗位的活。它结合多维度数据助力选品，还能进行广告诊断、店铺运营等，在不同商家案例中成效显著。

本文是“企业级本体应用”系列第三篇，探讨本体如何融入企业智能体系统。指出本体非数据库或图谱，是语义层。介绍本体在Agent系统的架构与职责，通过案例展示用本体做规则判断和多维归类，凸显其优势。

Meta发布新模型Muse Spark，是原生多模态推理模型，支持多种功能。其沉思模式处理复杂问题表现佳，还有新购物模式。虽评论区有质疑，但Meta股价大涨。模型未开放API等，实际实力待察。