「缓存复用」共找到 199 篇相关文章
缓存不该困在一台服务器里
本文分析大模型推理阶段KV缓存的行业痛点，指出传统单机缓存孤立无法跨节点复用的问题，介绍焱融科技的分层共享缓存方案，公开了方案的实测性能数据，展现AI存储的新发展方向。
DeepSeek 为什么把缓存涨了 11 倍？长上下文需求暴涨，得交点「存储税」了
8月17日，DeepSeek V4 Pro API输入和输出价格上涨，空闲时段缓存命中价涨5倍，高峰时涨11倍。此前其因高缓存命中率成性价比之选，但长上下文需求爆发致后端“缓存颠簸”，只能通过涨价收“存储税”。开发者可提高缓存命中率应对。
大部分token根本不该重复计算，不止于KVCache
斯坦福研究显示，AI Agent每次调用62%内容重复，现有前缀缓存虽有优化但天花板低，阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立，解决性能问题，其CacheBlend技术复用缓存，适配多引擎和存储后端。
Cloudflare 如何将 Quicksilver 迁移到多级缓存并处理数十亿个请求
Cloudflare 工程团队分享将全局键值存储 Quicksilver 过渡到分层缓存架构的故事。从 V1 到 V2 迁移，采用多级缓存策略，解决存储、一致性等问题，提升性能，多数请求可在短时间内响应。
Claude上线Prompt缓存诊断功能，终于不用盲猜token成本暴涨的原因
Claude宣布Prompt缓存诊断功能登陆控制台，可解决缓存失效排查痛点。此前开发者排查效率低，新功能能显示变动位置与token损耗。目前处于beta阶段，介绍了使用方法、支持的失效原因及功能限制等。
Grab 工程实践：将 LRU 升级为 TLRU，Android 图片缓存节省 50MB+
为改进 Android 应用图片缓存管理，Grab 工程师将 LRU 升级为 TLRU。通过引入基于时间的过期机制，fork Glide 项目扩展 DiskLruCache 实现。此方案让 95% 用户缓存省 50MB，可回收数 TB 存储空间。
性能最高提升7倍？探究大语言模型推理之缓存优化
文章探讨大语言模型推理缓存优化技术演进与未来展望，介绍了主流推理框架vLLM、SGLang，分析KV Cache、Paged Attention、Prefix Caching等技术的优化点，还提及LMCache、DeepSeek的缓存技术，最后提到MCP赋能可视化OLAP智能体应用。
减少检索增强生成（RAG）语义缓存中的误报：以银行业为例
文章围绕检索增强生成（RAG）语义缓存展开，指出其虽能提升效率，但设计不当会产生假阳性。以金融服务FAQ系统为例，经多组实验，发现缓存设计比模型优化更能减少假阳性，还给出未来架构路线图。
LLM加速利器LMCache，极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件，能降低首次响应延迟、提升吞吐量，适用于长上下文场景。它将KV缓存存于多级存储，跨服务实例复用任意重复文本的KV缓存，节省GPU算力，与vLLM结合优化显著。
让本地大模型不再重复推理的缓存技巧
本地跑大模型时，同样问题换说法问，模型又要重新推理。`constraint-cache`这个Python库可解决此问题，它将语义相似查询规范化为统一缓存键，实现近乎即时的重复查询响应，还避免了随机性响应问题。