搜索：推理优化技术

「推理优化技术」共找到 5270 篇相关文章

传感器技术如何赋能船舶？

本文介绍船舶传感器技术，其是衡量船舶工业竞争力的关键。阐述了传感器在船舶各系统的应用、分类、工作原理、安装场景，指出我国产业在规模扩大同时存在短板，还探讨了未来升级方向、应用拓展及产业创新路径。

UIUC开源智能模型路由框架LLMRouter，可自动为大模型应用选最优模型，有16+路由策略。该框架打通训练、评测等链路，解耦Route与Training模块，支持多轮协同等，还可插件式扩展。

作者在使用H20测试SGLang CUTLASS MoE时，发现其在中小Batch Size场景下性能不佳。为此设计Expert Specialization方案，启动多个不同配置Kernel，依Expert计算特性选合适的。还介绍了该方案在H20和Hx00上的实现细节及性能测试结果。

西北大学与Google、谷歌DeepMind团队质疑传统强化学习与反思的关系，提出贝叶斯自适应强化学习方法，首次解释为何、如何及何时反思探索新策略，还给出决策数学形式，实验显示其性能更优。

该综述提出分类框架组织Graph与AI Agents领域研究进展，详细探讨图技术在AI代理规划、执行、记忆和多代理协调等核心功能中的作用，还提及代表性应用、挑战和未来机遇。

中国人民大学与快手团队联合提出 AEPO 算法，解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制，在 14 个基准上优于主流算法，在 X 等平台获高关注。

算力市场风向生变，国产算力崛起。政策从资金、市场、规则多维度发力，为国产算力扫清障碍。在推理场景中，国产方案性价比更高。其独特分销体系使贸易环节信息透明度低，步入卖方市场，市场也迎来新局面。

InfoQ《极客有约》X AICon 直播栏目，邀上海交大赵波、快手高欢、腾讯邵帅探讨多模态大模型。谈及技术挑战、开源闭源、行业落地等，还分享精彩观点，如先大后小蒸馏提效，垂直模型现阶段更优。

在大模型推理时代，Test - Time Scaling成提升能力重要方向，但面临效率问题。ATTS提出异步框架，加入共形预测筛选候选路径，实验显示其加速显著，将测试时扩展推进到‘有原则加速’阶段。

白杨SEO结合自身经验，分享AI搜索优化GEO推广相关问题。包括第一步要确认业务、分析现状找真实需求；介绍确定精准意图词的方法；还阐述GEO与SEO关系及推广效果和转化挂钩的办法。