「KV 缓存缩减」共找到 159 篇相关文章
吴恩达老师分享的做 MVP（最简可行产品，minimum viable product） 的技巧
吴恩达分享做MVP技巧，建议时间有限时缩减项目范围，如一小时内借助代码助手做小部分。他以做虚拟观众模拟器为例，说明此方法能推动项目、收集反馈，让创意快速落地。
“烧掉94亿个OpenAI Token后，这些经验帮我们省了43%的成本！”
作者以月耗94亿OpenAI Token实战经历，分享优化成本经验，如选对模型、用提示词缓存、设账单预警等，降低成本43%，不过网友对此有不同看法。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
来自 Manus 的一手分享：如何构建 AI Agent 的上下文工程？
Manus 公司联合创始人季逸超分享为 Manus 搭建上下文工程的经验。文章探讨构建 AI 智能体时的关键抉择，给出围绕 KV - Cache 设计、通过掩码约束行为等构建原则，助开发者少走弯路。
深度解读《AI 智能体的上下文工程》：构建高效 Agent 的七个宝贵教训
作者解读 Manus 团队文章，结合自身理解总结出构建高效 Agent 的 7 个关键点，如依赖上下文工程、提升 Prompt 缓存命中率等，还给出总结与核心启示，对 Agent 开发有借鉴意义。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
英伟达开源上瘾了！推出了一款实时语音智能体的终极 ASR：24ms 极速锁定。
英伟达开源了Nemotron Speech ASR模型，它是低延迟、实时流式语音识别模型，单句转录锁定仅需24毫秒。其核心能力包括缓存感知、运行效率高、动态运行灵活，还被放进完整语音智能体方案。
openJiuwen协同昇腾打造智能体「算力亲和」技术，首token时延砍半，推理存储占用下降25%
传统推理引擎难以理解 Agent 任务状态，导致推理时延久、显存占用高等问题。openJiuwen 协同昇腾打造智能体「算力亲和」技术，建立语义协同机制，优化 KV Cache 管理，提升 Agent 系统运行效率。
想做成好的AI应用，先从把它砍成“一小时版本”开始「吴恩达老师开发心法」
吴恩达老师分享AI开发实用建议，若开发时间有限，应缩减项目范围，直至能在现有时间内完成。如他将“观众模拟器”项目精简，在短时间构建基础版本，获多方面收获。
优步凭借 CacheFront 的改进实现每秒 1.5 亿次的读取操作
优步工程师更新 CacheFront 架构，实现每秒 1.5 亿次读取操作且确保强一致性。解决了旧设计中陈旧数据读取问题，引入新协议和机制，弃用专用 API，还增强监控工具，提高缓存命中率。