搜索：推理性能优化

「推理性能优化」共找到 4188 篇相关文章

全球首个AI智能体「自进化」开源框架来了！一次部署，终生可用

英国格拉斯哥大学团队发布全球首个AI智能体自进化开源框架EvoAgentX，打破传统多智能体系统构建与优化限制。它有自动化构建、自进化机制和系统性评估亮点，实验验证其性能提升显著。

文章复盘优化JVM内存的过程，仅重构一个类，堆内存从3205MB降至211MB。原设计用通用容器在海量数据下成“内存吞噬者”，新方案用FastUtil的Long2ObjectOpenHashMap和int[]，还详解了其原理和优势。

9月初，arXiv一篇论文将GPT - 5写进数学研究成果。它解决了第四矩定理‘收敛速度’的空白，还在凸优化领域提升收敛界限。不过它常犯错，需人类引导，且成果原创性存疑，引发对科研和博士培养的担忧。

近年来，基于可验证奖励的强化学习（RLVR）在提升大型语言模型（LLM）推理能力上有关键作用，但存在熵崩溃问题。论文提出SVS创新策略，让模型自我合成变分问题形成自我提升循环，实验效果惊人。

文章区分了提示词、提示词工程和上下文工程的概念。提示词是给AI模型的输入文本；提示词工程是设计、测试、优化提示词的过程；上下文工程是为大模型构建动态上下文的学科，在AI Agent背景下诞生。

伯克利等机构发布FST框架，通过快慢分层解决大模型持续学习死局。过去两年头部实验室都在提升模型推理能力，却忽视持续学习。FST让模型像大脑一样快慢分层，提升数据效率、减少遗忘，使持续学习可工程化。

传统多模态模型在动态视频理解与复杂推理场景面临挑战，快手开源的 Keye-VL 模型在多模态思维链技术实现突破。文章解析其核心技术，分享在快手短视频社区的落地应用，还探讨了未来“Think with Video”的技术方向。

腾讯微信 AI 联合清华提出连续自回归语言模型 CALM，它将语言建模为连续向量而非离散词元，显著改善性能与计算成本权衡，解决了 LLM 效率瓶颈，虽面临技术挑战但实验效果佳，还指明未来研究方向。

TC-Light 是中科院自动化所张兆翔教授团队研发的生成式渲染器，能对长视频序列重渲染，减少 Sim2Real Gap 及实现数据增强。它克服了时序一致性和计算开销挑战，性能优于现有技术，论文与代码已开源。

Claude Sonnet 5发布一天差评多。虽官方定位高，有能力亮点，但在中文测评中性价比低，测试成本高，且Max推理模式易过度思考。还因过度保守失去实用价值，其表现取决于使用场景和预算。