「推理系统优化」共找到 4331 篇相关文章
Lilian Weng：Harness才是模型自我迭代的现实起点和关键，而不是直接重写权重
Thinking Machines Lab联合创始人Lilian Weng发文指出，实现AI递归式自我改进（RSI），设计围绕模型的执行系统“Harness”才是现实起点。文中详述Harness设计模式、优化路径，也指出自我改进面临的瓶颈。
NeurIPS 2025 | 中科大、港中深、通义千问联合发布CoRT：仅30个样本教会大模型高效推理，token消耗降低50%
大型推理模型在精确数学计算上存在问题，如认知冲突、行为低效、数据稀缺。中科大、港中深、通义千问联合推出CoRT框架，用创新数据合成与多阶段训练，提升模型推理能力和效率，成果已开源。
Cloudflare 推出 Meerkat，实现全球强一致性协调
Cloudflare推出基于QuePaxa共识算法的Meerkat服务，可无领导者写入并保持强一致性，提升网络可用性。虽有往返通信代价且非通用数据系统，但优化对强一致性系统重要，还未投入生产。
nndeploy：一款基于可视化工作流的AI部署工具
nndeploy是简单易用且高性能的AI部署框架，可将推理优化转化为可视化工作流，无需前端技术栈。它还提供端侧完整AI部署方案，有多端推理等功能，介绍了使用方法与技术原理。
昇腾+鲲鹏联手上大招！华为爆改MoE训练，吞吐再飙升20%，内存省70%
最近华为在MoE训练系统给出算子和内存优化新方案，三大核心算子全面提速，系统吞吐再提20%，Selective R/S实现内存节省70%，为大规模MoE模型训练扫清障碍。
为训推加速！全新FlashQLA注意力算子库开源
自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。
壁垒在上下文，不在模型
特赞科技发布企业级智能体系统 GEA，推出发散推理模型和企业上下文系统。指出模型能力易复制，企业上下文才是壁垒。GEA 架构分四层，有独特的推理和执行模式，已在多家企业部署。
聊聊AI应用架构演进
本文按AI应用架构演进路线，介绍每次演进增加的架构内容及相关技术，涵盖从简易架构到Agent模式等各阶段，还提及监控、推理性能优化等，助读者整理新技术，为探讨AI与传统应用架构异同做调研。
最窒息的Bug：Agent循环搜索原地打转？SGR Agent用「双阶段认知」破局
Hybrid Schema - Guided Reasoning（SGR）是革命性AI研究智能体框架，用「两阶段推理 - 执行架构」和「持久化上下文记忆系统」，解决AI助手复杂研究任务的三大痛点，模拟人类研究过程，适用于多场景。
协同加速，多机器人协作不再「慢半拍」！软硬一体化框架ReCA破解具身智能落地效率瓶颈
佐治亚理工学院等团队推出集成加速框架 ReCA，针对多机协作具身系统，从算法、系统、硬件跨层协同优化，经评估，实现 5 - 10 倍速度提升且成功率升 4.3%，为具身智能落地奠基。