搜索：推理性能优化

「推理性能优化」共找到 4188 篇相关文章

刚刚，GPT-5.4 发布，百万上下文、最强全能模型

OpenAI发布GPT - 5.4，集推理、编程等能力于一体，支持百万级上下文窗口。有三个版本，功能全面升级，如支持中途打断、电脑操作、视觉能力提升等，还更省token、少幻觉，安全机制完善，价格有调整。

本文整理自阿里专家向邦宇的分享。探讨构建 Vibe Coding 工具，介绍其分类、在阿里现状。指出用户使用中面临代码质量等问题，产品自身有设计、安全挑战。还分享 Agent 建设经验，强调适配国产模型及模板化的作用。

加州大学圣地亚哥分校和斯坦福大学研究人员提出强化学习框架Mem-α，用于训练LLM智能体自主管理记忆系统。它将记忆构建转为序列决策问题，采用多维度奖励函数，实验显示其全面超越现有方法。

快手Klear团队推出Klear-Reasoner模型，基于Qwen3 - 8B - Base打造，在多基准测试达同规模SOTA。其核心GPPO算法能强化稳定性与探索能力，团队还对训练流程多环节深入分析，给出优化策略。

文章介绍基于OpenAPI和AI coding构建上云智能体的实践。分析不同编程范式，结合AI coding发展与Multi - Agent问题，阐述构建方案，包括业务场景、构建方法、技术实现、当前效果及后续展望，还提及文档智能与RAG构建LLM知识库。

英伟达团队提出ProRL训练法，将强化学习扩展到超2000步。用此方法训练的15亿参数模型媲美70亿参数的Deepseek - R1 - 7B，在多任务中表现出色，解决了熵崩溃和训练不稳定问题。

在大模型与RAG技术发展下，结构化数据愈发重要。飞桨团队打造PP - StructureV3并随PaddleOCR3.0全面开源，它能将文档精准转为结构化文件，有精度高、能力多等优势，还介绍了使用方式。

中国人民大学与蚂蚁集团团队基于前期 8B 扩散语言模型 LLaDA，提出方差缩减的偏好优化方法 VRPO，推出 LLaDA 1.5。它在数学、代码、对齐任务上性能提升，VRPO 为扩散语言模型对齐提供框架。

前OpenAI首席科学家Ilya离开两年后，X网友爆料其创办的SSI正探索基于TTT的小型推理引擎，当前版本或8月向少数用户开放。该爆料与Ilya观点及英伟达合作等线索相符，但也面临安全难题。

过去18个月，ClickHouse发展迅猛，2025年末ARR达1.6亿美元，付费云客户超3000。它原是Yandex项目，适合LLM推理日志分析。通过收购拓展为数据平台，进入多市场竞争。文章探讨其增长原因、产品、市场及优劣势等。