「推理性能优化」共找到 4184 篇相关文章
业务逻辑的“坍塌”：当应用层只剩下胶水代码，在 AI Agent 时代，我们该构建什么
作者梳理从“怀疑AI”到“理解并驾驭AI”的心路，探讨LLM不确定性、AI开发概念，手搓Agent示例介绍开发关键点，分析LangChain价值，思考混合架构，还从性能视角看LLM，回顾其关键跃迁。
追平GPT-4o，数学基测96.3%高分，Hermes4 来了
Nous Research推出新一代大模型Hermes 4系列，其有混合推理和长度控制机制，还能用DataForge“造”数据，经Atropos质检。它在数学等领域表现佳，追平GPT - 4o，是开源AI对巨头的挑战。
7 亿用户白嫖 ChatGPT，OpenAI 怎么从他们身上赚到钱？
ChatGPT有7亿多免费用户，SemiAnalysis研究认为GPT - 5的‘Router’机制能让OpenAI从免费用户身上获利。‘Router’可降低成本、提升性能，结合新功能及合作，有望开启交易抽成的商业化模式，冲击谷歌等巨头。
GLM-4.5 验证：智谱已完成一轮“洗牌”
2025年大模型热度下降，智谱AI关注度降低。7月28日晚其发布新一代基础模型GLM - 4.5，体现战略调整成效。该模型专为AI Agent打造，性能出色，同时智谱人事、业务、收入等方面也有“洗牌”。
怎么从 ChatGPT 拿流量？送上这九条实用建议
文章指出AI问答引擎成B2B采购决策重要‘守门人’，介绍问答引擎优化（AEO）概念，还通过采访提炼九条从ChatGPT等拿流量的实用建议，如明确提问场景、了解平台差异等。
一个标点就能迷惑LLM-as-a-Judge！
论文揭露惊人漏洞，一个标点或通用推理开场白就能欺骗最先进的LLM裁判，导致强化学习训练崩溃。研究通过实验验证漏洞，提出Master - RM模型，其FPR近乎0%且保持通用裁判能力。
突破瓶颈，嵌入式AI神经持续学习引擎—Replay4NCL
阿联酋、纽约、巴基斯坦大学研究人员推出Replay4NCL，解决嵌入式AI持续学习难题。它优化记忆重放，有创新架构和训练策略。实验显示其精度高、延迟低、省内存、能耗少，成果将在2025年DAC大会展示。
Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍
大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。
做RAG这一年，最后悔的就是上知识图谱
基于知识图谱的检索增强生成在问答任务中存在三元组索引丢失上下文语义问题，作者提出MDER - DR双阶段框架，在标准测试和特定数据集上性能提升最高66%，还具备多方面优势。
GPT-5.2破解数论猜想获陶哲轩认证！OpenAI副总裁曝大动作：正改模型核心设计，吊打90%研究生但难出颠覆性发现
OpenAI 发布由 GPT - 5.2 加持的科研平台 Prism 并免费开放。OpenAI 副总裁 Kevin Weil 回应入局科研领域问题，称模型能力超 90% 研究生，但难有颠覆性发现，还透露将优化模型设计。