搜索：高效推理框架

「高效推理框架」共找到 3696 篇相关文章

强化学习的进化：从PPO到MaxRL，LLM推理训练的算法演进史

本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。

阿里千问率先发布Qwen3-Max-Thinking正式版，刷新全球SOTA。该模型总参数超万亿，有技术创新，提升了推理性能和原生Agent能力。实测代码和工具调用能力强，还透露技术细节，中国开源模型影响力不断提升。

本文介绍开源框架PosterAgent，它能一键将论文转为可编辑的学术海报。相比GPT - 4o，其生成指标优、token使用量少、成本低。研究团队构建评估标准Paper2Poster，实验显示PosterAgent在多方面表现出色。

英伟达韩松团队推出基于后神经架构搜索的高效语言模型Jet - Nemotron，在基准测试中表现出色，准确率与Qwen3等相当甚至更优，生成吞吐量大幅加速。模型构建经多步骤优化，代码和预训练模型将开源。

文章对昇腾 910B 大模型进行实测，对比 vLLM Ascend 与 MindIE 在实际推理场景中的性能差异。通过 GPUStack 平台测试多种模型，结果显示两者在不同部署场景各有优势，vLLM 适合单卡小模型，MindIE 适合大模型多卡部署。

4月30日DeepSeek发布多模态论文，核心是“视觉原语”，让模型边推理边输出坐标。它是七大coding agent玩家中最后接入视觉的，但补课方式反共识，不堆分辨率堆指代精度，效率高，拓扑推理成绩领先。

RepoMaster旨在让AI智能体解决复杂开发任务。它能利用深度搜索定位GitHub仓库，其核心框架分三步闭环解决智能体‘看不懂、用不来’难题。实验显示它性能超主流框架，效率高，设计科学。

传统listwise在复杂查询表现差，近期工作泛化性不佳。人大与百度等提出ReasonRank，通过全自动合成13K推理数据及两阶段训练，在BRIGHT等榜单表现优异，且ReasonRank-7B比Rank1-7B快2.5倍。

中科大与华为联合提出SparseRM轻量级偏好建模方案，基于稀疏自编码器构建低参可解释奖励模型。实验显示它用不到1%可训练参数，在多任务中性能优，还能融入下游对齐流程，为LLM高效对齐提供新可能。

近期，DeepSeek 推出 DSpark，阶跃星辰提出 JetSpec，都关注大模型推理效率。DSpark 关注验证效率，JetSpec 提高有效 Token 生成率。二者切入点不同，但都显示大模型行业进入新阶段，推理效率成 Agent 落地基础变量。