搜索：推理优化技术

「推理优化技术」共找到 5270 篇相关文章

智能流体力学青年学者论坛第29讲：刘军博士——人工智能技术在工业产品设计中的应用

本报告重点介绍贝叶斯优化技术在工业气动设计产品设计上的应用，采用特定方法用于电动汽车暖通空调系统设计，以降低CFD成本。还简单介绍工业产品优化设计中另外两种成功方法。

西湖大学MAPLE实验室开发的SLOT方法，无需SFT和RL，让模型推理时“临时学习”具体问题。它简单易实现，计算开销小，能使模型准确率大幅提升，还无需额外资源，在各规模模型上效果显著。

近年来，强化学习（RL）成为解锁大型语言模型（LLM）复杂推理能力的关键工具，但该领域也面临技术选择困境。阿里联合多所高校的论文通过大规模可复现实验，揭示主流RL技巧的机制与适用场景，还发现极简组合（Lite PPO）性能超越复杂方案。

文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。

8月21日百度蒸汽机音视频一体化模型重大升级，实现多人有声视频一体化生成。有五大核心技术突破，价格低至行业70%。源于算力和工程优化积累，未来还会优化成本，其盈利不依赖调用次数，带动平台生态升级。

近期，多所高校研究团队发布 AceSearcher 模型，它是让同一语言模型在推理时兼任双角色的合作式自博弈框架，以两阶段训练为骨架，将推理与检索结合，提升复杂检索任务效果，在多任务上表现出色。

如今大模型长上下文推理面临计算成本高、推理易中断问题。浙大联合北大团队提出InftyThink新范式，将传统推理拆成短片段并总结，突破推理长度限制，在多基座模型实验中表现优异。

近年来，推理阶段的成本等因素制约大模型规模化应用。腾讯混元升级的 AngelSlim 围绕 Eagle3 投机采样训练范式构建系统化实现，支持多模态场景，最高可实现 1.9× 推理加速，还具备多亮点。

随着AIGC技术进步，故事可视化引发关注。阶跃星辰携手上科大、西湖大学提出ViStoryBench可视化评估框架，通过构建多元化数据集、建立多维度评估指标，对超20种技术方案评测，为行业发展提供评估工具。

1月27日，国产GPU厂商曦望发布新一代推理GPU芯片启望S3等。启望S3面向大模型推理定制，设计系统级重构，单位Token推理成本降约90%。曦望还推出超节点方案及推理云计划，目标是极致推理性价比。