搜索：推理优化与部署

「推理优化与部署」共找到 3516 篇相关文章

全国首部AI大模型私有化部署标准，公开征集起草单位和个人！

由中国电子商会归口，智合标准中心组织起草的《人工智能大模型私有化部署技术实施与评价指南》团体标准立项，正征集起草单位和个人。该标准可解决企业部署难题，由多元主体联合起草，参与有重要价值。

近期AI政策频出，企业对AI应用需求攀升，倾向私有化部署，但行业面临技术错配等问题。国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和个人。

Google 112 页论文实证，OpenAI 的 o 系列等模型推理能力提升并非仅因计算时间延长，而是源于对复杂互动的隐式模拟。通过三重验证表明推理能力跃迁或因‘吵得更凶’，而非‘算得更久’。

南洋理工大学团队提出MonoArt，将单目可动物体重建建模为渐进式结构推理过程，通过四个关键模块逐步推理，无需外部先验，在PartNet - Mobility基准测试中表现领先，兼顾推理效率，还可用于下游任务。

该演讲笔记围绕强化学习流水线优化，强调用Nsight Systems做性能分析，介绍在Ray Actor添加参数及解读文件方法。给出训练/生成参数优化技巧，如Actor训练和Rollout优化，还以Qwen 2.5 7B等模型为例总结参数调优经验。

伊利诺伊大学香槟分校团队提出 RM - R1 框架，将奖励建模定义为推理任务。它引入推理奖励模型和链式评估准则机制，经两阶段训练，在多基准测试中表现超大规模模型，验证了推理能力对奖励模型的重要性。

Google在新版Android Gradle Plugin引入资源压缩优化方案，合并代码优化与资源压缩。新方案让应用体积最高缩减50%，开发者有四种优化方式可选，AGP 8.12.0已提供该流程，AGP 9将默认开启。

本文将预解分析引入翼型外形优化，构建流动系统线性化模型，以最大预解增益表征流动稳定性。建立优化框架获Opt.1和Opt.2构型，优化后翼型流动稳定性提升、气动性能改善，方法有外推潜力。

在 InfoQ 举办的 QCon 全球软件开发大会上，小红书梁啟成分享云成本优化实践。介绍了小红书用云情况，分析成本优化面临的问题，阐述成本洞察和优化的探索，如内外账分离、CPU 和 GPU 资源提效等，还展望了 AI for FinOps 实践。

浙江大学团队推出视觉数学推理基准GSM8K-V，将GSM8K映射为视觉对应版本。它数据可靠、覆盖全面，经三阶段构建。实验显示，现有视觉语言模型在视觉推理上短板明显，为模型发展指明方向。