搜索：Memory Decoder - AI Reading Hub

「Memory Decoder」共找到 86 篇相关文章

【梁文锋署名】DeepSeek再发新论文：75%思考+25%记忆，这是他们算出来的最优解

DeepSeek新论文《Conditional Memory via Scalable Lookup》提出Engram模块，指出大模型用计算模拟查字典是浪费算力，Engram能给模型装“记忆”，还发现参数分配呈U型缩放定律，推理和长上下文能力提升显著。

本文是图解Vllm V1系列5，聚焦调度器策略。先回顾vllm v1整体运作流程，接着阐述调度 - 推理的整体流程，包括将请求添加进Scheduler、Scheduler单步调度策略等，还对比了不同场景下的函数及调度逻辑。

云原生场景下，资源超卖和混合部署使宿主机与容器化应用资源竞争加剧，引发内核级延迟问题。本文结合实战案例，介绍用ack - sysom - monitor Exporter分析定位内核延迟，还介绍了SysOM监控及解决系统延时的方法。

文章围绕OpenAI提出九个关键问题并给出判断。虽受Gemini影响，面临竞争，但作者对其2026年叙事反转有信心，还分析了用户增长、业务布局、技术突破等方面情况。

文章介绍 PDL 在 SGLang Kimi K3 中的应用，K3 内核优化接入 PDL 以缩短相邻内核间隙。分析 PDL 原理、在 bs=1 decode 中解决的问题，阐述计算链和通信链上的应用，还提及性能数据和实现问题。

文章聚焦 SGLang 里两代自定义 all-reduce 实现（v1 和 v2），前者从 vLLM 移植，后者是默认版本。详述其负载特征、前提条件、分发链、同步机制、算法及 CUDA graph 支持等内容，还对比了两代差异，并提及相关环境变量。