搜索：推理性能优化

「推理性能优化」共找到 4163 篇相关文章

百度沧海·存储 Mantle 系统架构演进之路，SOSP'25 论文背后的故事

文章讲述百度沧海·存储Mantle系统架构演进故事。面对云存储挑战及业界方案局限，团队经多阶段探索，构建Mantle及MantleX架构，解决性能难题，并规划后续升级方向，为业界提供新思路。

阿里发布全开源项目通义DeepResearch，在研究任务评测中表现出色，底层是30B的MoE专用推理模型，资源需求低。文章演示了基于该项目构建本地化端到端DeepResearch助理的方法，包括模型部署、Agent实现等。

Anthropic 发布 Claude 4 Sonnet 和 Claude 4 Opus 模型，支持“推理模式”，能并行调用工具。还发布 Claude Code 编程智能体及 SDK。两款模型输入输出能力强，功能亮点多，性能表现佳，有多种使用渠道和定价。

webclaw是专为AI工作流打造的高性能网页提取工具，能把网页转成适合大模型的内容。它有Token优化、极速响应等亮点，支持多种安装和使用方式，解决了传统抓取工具的痛点。

2026年，华为何庭波提出τ缩放定律，主张将时间常数τ作为半导体演进首要优化目标。该定律在手机端和AI数据中心验证有效，还涉及产业结构变化，但仍有工具链、工艺变异等问题待解。

文章指出大语言模型处理复杂任务存在事实幻觉、缺乏实时信息等问题。介绍ReAct将推理和行动结合，及Reflexion在其基础上添加评估反思机制，探讨两者结合优势，还提及未来发展方向。

Mira Murati团队分享神经网络训练推理新研究，提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形，设计Manifold Muon优化器，实验显示效果好，但计算开销和理论问题待解决，代码已开源。

作者探讨扩散语言模型（dllm），认为其建模方式或冲击AR。团队在AAAI报告介绍多项工作，还整理当前diffusion问题及观点，如推理架构、词表、优化范式等，并附项目网站和agent demo。

华东师大智金院团队孵化的金融原生基模 Mint - Agent 发布，在 FinanceAgentBench v2 上表现超 GPT - 5.6 - Sol 与 Claude Opus 4.8，单题推理成本低，商业订单超亿元，进入规模化金融场景验证阶段。

Meta发布闭源大模型Muse Spark及‘沉思模式’，背后藏PDR推理技术。该技术通过‘并行起草+精炼’突破性能瓶颈，对比传统长CoT范式优势明显，在AIME竞赛题目测试中准确率显著提升。