「推理优化与部署」共找到 3516 篇相关文章
通用Agent是伪命题？昆仑万维方汉现场拆解：垂直推理才是胜负手｜新智元十年峰会
在新智元十周年峰会上，昆仑万维董事长方汉分享公司转型故事与多模态AGI见解。他认为通用Agent非万能，垂类推理数据是关键，还提出AI商业落地逻辑，展示多款产品成果。
阿里云 Tair 基于 3FS 工程化落地 KVCache：企业级部署、高可用运维与性能调优实践
本文介绍阿里云 Tair KVCache 团队与服务器研发存储软硬件结合团队对 3FS 的工程化升级实践。从性能、产品、运维维度优化，为高性能 KVCache 在企业级 AI 场景落地提供范式，还提及未来 3FS 产品化及服务器硬件升级方向。
ICLR 2026 | 越推越快! 首个面向「Test-Time Scaling」的投机解码基准
文章指出推理阶段扩展（TTS）能提升推理大模型解决复杂问题的能力，但会产生大量冗余计算。为此提出首个面向TTS的投机解码加速综合基准，评测显示N - gram方法在特定场景加速潜力大，混合策略性能更优。
CVPR 2026 Workshop征稿｜从感知到推理，ViSCALE 2.0 邀你重塑计算机视觉的 System 2
2026年6月，CVPR第二届计算机视觉推理扩展研讨会（ViSCALE 2026）将在美国回归。由顶尖机构学者联合举办，将汇聚顶尖学者探索视觉模型突破瓶颈之法。会议亮点多，还开启论文征稿，欢迎积极投稿。
突破高分辨率图像推理瓶颈，复旦联合南洋理工提出基于视觉Grounding的多轮强化学习框架MGPO
先进多模态大模型处理高分辨率图像有瓶颈，复旦和南洋理工研究者提出基于视觉Grounding的多轮强化学习方法MGPO，能让模型精准推理，还可使模型从答案反馈中涌现视觉定位能力，避免依赖昂贵标注。
GTC 巅峰对话 Jeff Dean x Bill Dally：预训练范式已死、延迟瓶颈不在计算、谈透 AI 五年未来 | GTC 2026
GTC 2026上，NVIDIA首席科学家Bill Dally和Google Jeff Dean展开重磅对话。讨论了模型能力进步、低延迟推理架构、模型自主进化、数据与算力、训练与推理硬件差别等多方面内容，分享对未来AI的看法与见解。
攻克AI过度思考难题！美团新研究让通过“可验证”过程奖励激活LRM的高效推理
美团等机构研究团队针对LRM“过度思考”问题，提出可验证的过程奖励机制（VSRM）。它结合可验证奖励与步骤级奖励，为推理步骤分配奖励信号。实验显示其能降低输出长度并保持性能。
多模态模型学会“按需搜索”，少搜30%还更准！字节&NTU新研究优化多模态模型搜索策略
字节与NTU优化多模态模型搜索策略，通过搭建工具、构建数据集及设奖励机制，用强化学习训练模型，使其按需搜索。实验显示，MMSearch - R1系统少搜30%还更准，为多模态大模型发展提供洞见。
大模型能“原地”改参数了！字节Seed&北大新论文：测试时推理无需加层重训练
字节Seed和北大研究团队提出In - Place TTT方案，让大模型能“原地改参数”。它复用Transformer的MLP模块，解决现有TTT架构不兼容、计算效率低和优化目标不匹配问题，实验证明可提升模型长文本任务表现。
Qwen“半成品”推理模型刷下AIME满分，俘获大批国外开发者！实测碾压GPT-5 Thinking、还能写侦探小说
阿里发布 Qwen3-Max-Thinking 早期预览版，虽是‘半成品’，在数学推理竞赛中达 100% 正确率。Qwen3-Max-Preview 多项测试领先，速度超 ChatGPT，还成 AnyCoder 默认选项，但未开源。实测表现有优有劣。