搜索：推理系统优化

「推理系统优化」共找到 4338 篇相关文章

Mamba-3惊现AI顶会ICLR 2026！CMU知名华人教授一作首代工作AI圈爆红

Transformer有力挑战者Mamba的最新版本Mamba-3进入ICLR 2026盲审。它有三大改进，在长文本处理、实时推理和成本优化有优势。此外，FBAM也从不同角度探索Transformer下一代框架。

英伟达新研究AVO构建了新型进化变异算子，用自主编码智能体取代经典方法。智能体7天自主进化，优化MHA内核，性能超cuDNN和FlashAttention - 4，还能快速适配GQA，展现强大泛化能力。

今日凌晨，Black Forest开源文生图模型FLUX.1-Kontext开发者版本，功能类似PS，用自然语言就能一键P图。测试显示它超GPT-image-1，成最强开源文生图模型之一，还在架构、训练、工程层面做了优化。

一支不到15人的华人团队推出AI生图模型Uni-1.1，在Arena.ai榜单冲进全球前三。它将推理和生成融入同一模型，创意可控，价格低，已获阿迪等企业认可，未来将拓展到多模态系统。

10月25日，SGLang联合美团、亚马逊云科技在北京举办国内首场Meetup。SGLang是开源高性能推理引擎，特性丰富。活动中大咖和开发者分享见解、进展、应用场景，展现其社区活力与发展潜能。

清华大学朱军教授团队与NVIDIA Deep Imagination研究组联合提出分数正则化连续时间一致性模型（rCM），将连续时间一致性蒸馏扩展至大模型，解决现有方法瓶颈，提升推理速度兼顾质量与多样性。

Anthropic在官方文档上线Claude 4.x提示工程指南，针对4.5系列模型优化。介绍基本原则、长期推理和状态跟踪方法、沟通风格，还给出特定场景指导及迁移考虑，助你发挥Claude 4.x实力。

MyEMS是开源能源管理系统新标杆，基于Python+Django构建，提供完整解决方案。支持多场景能耗监控，通过可视化报表和AI算法优化能效，助企业降15%-30%能源成本，还介绍了其功能、架构等。

鄂维南院士探讨推动AI从工程化走向科学化。回顾AI先驱，指出基础理论滞后致发展起伏、大模型开发依赖经验。介绍AI主要方法，分析深度学习基础理论问题，强调从系统角度看待AI，认为已到科学化转折点。

腾讯提出无训练组相对策略优化Training-Free GRPO，无需调整参数，在提示词中学习经验就能提升模型性能。实验显示，该方法在数学推理和网页搜索任务上效果显著，成本远低于传统方法。