「缓存命中率」共找到 108 篇相关文章
Agnes AI 实测：AI 编程真正的瓶颈，99%的人想错了
本文实测Agnes AI，指出AI编程瓶颈在于缓存命中率，而非模型智商。介绍其产品线、评测成绩与价格优势，还分享客户端体验，包括亮点、回滚事故及日志结论，最后点明智能免费后验证更稀缺。
Cache Me If You Can：陈丹琦团队如何「抓住」关键缓存，解放LLM内存？
普林斯顿大学陈丹琦团队新论文聚焦长上下文语言模型 KV 缓存问题。传统 KV 缓存大小随输入文本长度线性增长，此前方法难公平比较。团队提出「KV 足迹」指标，改进方法并推出 PruLong 优化内存，节省空间且保性能。
Pogocache：开源缓存软件实现低延迟并支持多传输协议
全新开源缓存软件 Pogocache 近日发布 1.0 正式版，主打低延迟与 CPU 高效能特性，支持多种主流通信协议，宣称比其他开源缓存方案有更高吞吐量和更低延迟。还介绍了其架构、应用场景等。
一次缓存引发的文件系统数据不一致问题排查与深度解析
本文详述由自研分布式文件系统客户端 EFC 缓存架构更新引发的数据不一致问题排查过程。经多轮分析，发现是版本号回退致客户端读旧数据。修复后测试无异常，还揭秘部分 POSIX 接口底层情况。
两分钟Claude Code模型换成DeepSeek，立省17倍，缓存后爆省120倍
GitHub开源deepclaude，两分钟可将Claude Code模型换成DeepSeek V4 Pro，开销直降17倍。自带上下文缓存机制，重复对话成本降120倍。支持多后端选项，可丝滑切换，还能打破设备限制远程编程。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
GitHub Issues 大改造：用缓存和预取，让页面打开快了数倍
GitHub 重新设计 GitHub Issues 导航架构，通过客户端缓存、预测性预取等机制，提升导航性能，使即时导航体验比例从 4%增至 22%，解决大型 Web 应用常见的延迟问题。
复制失败与脏碎片：Linux 页面缓存漏洞影响所有主流发行版
一周内，两处 Linux 内核本地权限提升漏洞“复制失败”和“脏碎片”被披露，可使无特权本地用户获 root 权限。前者由 Theori 用 AI 工具发现，后者由 Hyunwoo Kim 发布，均影响页面缓存，与“脏管道”属同一类漏洞。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
DeepSeek V4永久降价！缓存命中再打1折，实测编程成本骤降83%
DeepSeek两天连续两次降价，输入输出2.5折，命中缓存输入折上再1折且无时限。实测编程成本骤降83%，此前31.73元，打折后只需5.34元。其曾引发价格战，此次对海外用户冲击更大。