「推理优化」共找到 3061 篇相关文章
绝对零监督Absolute Zero：类AlphaZero自博弈赋能大模型推理，全新零数据训练范式问世
清华大学 LeapLab 团队等提出全新推理训练范式 Absolute Zero，使大模型实现「自我进化式学习」。基于此范式训练的模型 AZR，在代码生成与数学推理基准任务表现出色，缓解了大模型对人工数据依赖难题。
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。
解决VLA模型落地难，普通硬件也能跑！全透明全开源的高效VLA模型把推理成本砍掉76%
2026年4月，中山大学与MBZUAI联合推出A₁模型，它是完全开源透明、自适应高效的截断式视觉 - 语言 - 动作模型，能削减推理成本、实现低成本落地，在仿真与真机上表现优异。
Shopee OnePiece：业内首个融合上下文工程、隐式推理和多目标训练策略的生成式搜推建模框架
2025年生成式推荐发展火热，但工业界落地多在序列化建模，替换传统范式遇阻。Shopee傅聪团队联合人大高瓴学院提出OnePiece范式，是业内首个融合多策略的生成式搜推建模框架，含上下文工程、隐式推理和多目标训练策略。
SGLang 的 DeepSeek-V4.1 Flash Day 0 优化实录：4×B300 上 BS=1 达到 764 tokens/s
本文是SGLang团队的DeepSeek-V4.1 Flash Day 0优化实录，详解了架构适配、KV cache压缩、kernel优化到DSpark适配全流程，公开4×B300 GPU实测吞吐数据，附复现代码与步骤
Token洪流的转向：当AI Agent成为Token消耗的主宰，什么样的推理服务基础设施才是刚需
Token消耗量转移，AI Agent成Token消耗主宰，大模型推理服务底层逻辑重塑。文章介绍AI Agent时代范式转变、对推理基础设施的需求，还阐述了为其打造的AI Serving Stack架构及优势，它获2025年度相关卓越奖。
斯坦福意外用AI生成超强CUDA内核，性能比人类专家优化得还要好！翻倍碾压原生PyTorch，华人主创
斯坦福团队意外发现AI生成的内核性能超人类专家优化的，在常见深度学习操作上能让性能提升近400%。其方法是生成自然语言优化思想再转化为代码，还使用多分支探索模式。
仅保留35% Token，性能反超原模型！快手可灵等用视觉信息引导音频压缩，推理时间直降42%
Omni - LLM计算浪费严重，快手可灵等团队提出OmniSIFT框架。它利用音视频非对称依赖关系，通过时空联合剪枝压缩视频、视觉引导筛选音频Token，大幅减少Token数量，提升性能和推理效率。
刚刚，DeepSeek自曝单集群日跑155万亿Token：白菜价背后，利润率竟高达80%
本文拆解DeepSeek大模型推理框架的底层超大规模集群调度设计，公布其单集群日吞吐155万亿Token，低价API下仍保持80%高毛利率，详解多项极致优化方案。
马斯克xAI自研推理芯片曝光！代号X1、台积电3纳米工艺、明年就量产
马斯克的xAI被曝自研推理芯片X1，用台积电3纳米工艺，2026年三季度量产。此前xAI就为自研芯片招兵买马，还将在西雅图设办事处。此外，特斯拉也在推进自研推理芯片。