「提示缓存」共找到 553 篇相关文章
谷歌推出 LLM-Evalkit，为提示词工程带来秩序与可衡量性
谷歌推出基于 Vertex AI SDK 的开源框架 LLM - Evalkit，让大语言模型提示词工程更有序可衡量。它整合实验、测试等环节，与谷歌云工作流集成，有无代码界面，已在 GitHub 发布。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
GitHub Issues 大改造：用缓存和预取，让页面打开快了数倍
GitHub 重新设计 GitHub Issues 导航架构，通过客户端缓存、预测性预取等机制，提升导航性能，使即时导航体验比例从 4%增至 22%，解决大型 Web 应用常见的延迟问题。
复制失败与脏碎片：Linux 页面缓存漏洞影响所有主流发行版
一周内，两处 Linux 内核本地权限提升漏洞“复制失败”和“脏碎片”被披露，可使无特权本地用户获 root 权限。前者由 Theori 用 AI 工具发现，后者由 Hyunwoo Kim 发布，均影响页面缓存，与“脏管道”属同一类漏洞。
重塑注意力机制：GTA登场，KV缓存缩减70%、计算量削减62.5%
GTA由多所高校联合研发，提出大模型框架，解决传统多头注意力机制弊端。通过分组共享注意力矩阵和压缩潜在值表示，削减计算量、缩减KV缓存，实验验证其性能优、效率高，虽有局限但前景好。
深度拆解 Hermes Agent 的记忆系统：它如何修正 OpenClaw 的误区
文章深度拆解 Hermes Agent 记忆系统，介绍其四层记忆系统，包括提示词记忆、SQLite 历史会话存档、智能体技能管理和用户建模。与 OpenClaw 对比，Hermes 更关注缓存效率，遵循冷热分离、缓存优先等原则。
缓存命中率99.93%！DeepSeek最适合的Harness来了，GitHub狂揽8.6万Star
DeepSeek官方版Harness未出，民间开源编程Agent「Pi」先火。它适配DeepSeek，让其缓存不命中率低至0.03%，调用成本大降。Composio测试显示Pi完成任务平均成本最低。同时，DeepSeek正组建团队做官方Harness。
DeepSeek V4永久降价！缓存命中再打1折，实测编程成本骤降83%
DeepSeek两天连续两次降价，输入输出2.5折，命中缓存输入折上再1折且无时限。实测编程成本骤降83%，此前31.73元，打折后只需5.34元。其曾引发价格战，此次对海外用户冲击更大。
提示词分享：帮助在 Hacker News 或者 Reddit 这样的讨论贴中提取精华内容
分享了在 Hacker News 或 Reddit 讨论贴提取精华内容的提示词，介绍最佳模型为 Gemini 2.5 Pro，还给出角色定位、工作流程、写作风格技巧及禁止出现的表达方式。
糟糕，Claude Opus 4.7源代码级提示词曝光！底层设计全被看光
Claude Opus 4.7如期而至，性能全方位提升，编程暴打Gemini 3 Pro、GPT - 5.1。Claude Code之父分享最佳实践，还曝光系统级提示词，揭示其进化逻辑，此外还提及Mythos的一些危险操作。