搜索：推理系统优化

「推理系统优化」共找到 4331 篇相关文章

美团提出多模态推理新范式：RL+SFT非传统顺序组合突破传统训练瓶颈

美团研究者提出Metis - RISE框架，将RL激励和SFT增强以非传统顺序结合提升多模态大语言模型推理能力。先RL激发潜能，再SFT补齐短板，训练的两模型在OpenCompass榜单成绩优异。

Unsloth团队发布强化学习教程，从吃豆人谈起，介绍RLHF、PPO、GRPO等概念，分享用GRPO训练推理模型技巧。涵盖强化学习基础知识，还给出Unsloth使用GRPO训练模型方法及奖励函数示例。

谷歌提出能帮科研人员编写「专家级」科研软件的AI系统，融合大语言模型和树搜索，可整合重组知识构建新思路。在多领域超人类表现，但局限于可量化任务。

首尔国立大学提出全新框架，能生成虚拟动态场景并支持多角色上下文动作生成。引入LLM拆解复杂任务，系统用事件驱动方式规划动作，还构建基准评估相关能力，有良好扩展性和实用性。

中国科学院自动化研究所、腾讯AI Lab团队从可解释性分析出发，发现LLM内部含多个可采样内部策略，揭示不同模型推理熵模式，提出BuPO算法，在复杂推理任务上性能显著优于传统算法。

AI加速落地，行业需可持续进化系统框架。清华系中数睿智将全新框架集成到语思智能平台，其5D - RAG框架破传统RAG痛点，且在多领域落地，为产业智能升级提供路径。

91岁从未碰过代码的John Blackman，在孙子介绍下，用Claude和Replit的AI agents，仅两天就搭建出教会志愿者管理系统，还分享开发到生产的挑战及使用反馈。

文章讲述百度沧海·存储Mantle系统架构演进故事。面对云存储挑战及业界方案局限，团队经多阶段探索，构建Mantle及MantleX架构，解决性能难题，并规划后续升级方向，为业界提供新思路。

在多模态大语言模型应用多元的当下，对模型理解人类意图需求迫切。阿里巴巴通义实验室团队推出HumanOmniV2，解决现有推理路径问题，其相关代码等开源，在多基准数据集成果突破性领先。

MiniMax开源推理大模型MiniMax - M1，原生支持100万token输入、8万输出，性能比肩DeepSeek - R1，仅花380万训成。采用Lightning Attention机制与CISPO算法，在多领域表现出色，模型权重可在HuggingFace下载。