缓存技巧」共找到 245 篇相关文章

8

那个刷爆全网的提示词技巧,吴恩达刚官宣:早就过时了!重磅发布2026最新提示词大师课

吴恩达发布《2026提示词工程大师课》,指出过去流行的提示词技巧已过时。课程介绍了成为AI高阶玩家的方法,如给足上下文、引导AI给出真实反馈、用渐进式大纲写作等,还提及AI知识获取、搜索及多模态能力等内容。

AI科技大本营
开源动态8

大部分token根本不该重复计算,不止于KVCache

斯坦福研究显示,AI Agent每次调用62%内容重复,现有前缀缓存虽有优化但天花板低,阿里云数据表明多数缓存块利用率低。LMCache将缓存管理独立,解决性能问题,其CacheBlend技术复用缓存,适配多引擎和存储后端。

AI工程化
7

记录下SGLang开发,优化,debug的技巧之大SKILL时代已来临

文章记录SGLang开发等技巧,介绍Agent在编程开发领域的强大能力,如完成多种工作、提升模型速度。还提及Agent流程优化方向,提醒警惕其偏差,指出人的价值转变,成为设计、把关和提炼者。

GiantPandaLLM
开源动态8

Meta最新REFRAG框架引爆RAG圈!KV缓存暴降90%,速度狂飙30×

Meta推出REFRAG框架解决RAG难题。它能在不修改解码器参数下压缩上下文、复用文档向量等。实验显示,它降低KV缓存、加速TTFT,在多任务表现佳,为大模型与知识库结合提供新范式。

CourseAI
推荐文章8

深度拆解 Hermes Agent 的记忆系统:它如何修正 OpenClaw 的误区

文章深度拆解 Hermes Agent 记忆系统,介绍其四层记忆系统,包括提示词记忆、SQLite 历史会话存档、智能体技能管理和用户建模。与 OpenClaw 对比,Hermes 更关注缓存效率,遵循冷热分离、缓存优先等原则。

宝玉AI
推荐文章8

超棒!打造顶级智能体Claude Code的经验教训

Claude Code工程师Thariq文章受开发者盛赞,揭示打造智能体经验。提示词缓存是关键,要合理排列顺序;管理动态上下文需避免破坏缓存;为智能体选适配工具,随模型进化调整行动边界。

AIGC开放社区
产品应用7

Claude Fable 5.1 发布:缓存读降价 75%,但实际更贵了

Anthropic 发布 Claude Fable 5.1 和 Mythos 5.1。Fable 5.1 性能全面上涨,但出现价格悖论,缓存读降价 75% 实际更贵。在 Agent 类任务与 Opus 5 基本持平,推出 EFS 应对数据留存争议,还有多项科研演示。

AI工程化
开源动态7

隐藏超多上下文工程(Context Engineering)技巧的框架,来试一试吧!

文章指出多数人构建的AI Agent像Shallow Agent,处理复杂任务能力弱。以Claude Code等为例,介绍深度Agent架构的秘密,如冗长提示词、规划工具等,还推出开源包deepagents方便上手。

CourseAI
产品应用8

Claude Code 省 Token 指南:慎用 1M 上下文,不开新会话或者总是开新会话都不对

文章聚焦Claude Code省Token问题,分析配额消耗快的原因,介绍提示缓存机制,给出省钱策略、操作规则,还提及委派工作及澄清误解,强调让缓存多命中、上下文少装无关内容。

宝玉AI
产品应用7

MiniMax Agent 接管桌面:动动嘴,电脑就把活干完了 | 10+个技巧分享

介绍 MiniMax Agent 桌面端,它是 Web 端进化版,能控制浏览器、处理本地文件。文中分享了其使用技巧,如环境配置、文件管理、垃圾清理等,还提及多种实战场景及玩法,凸显其主动性优势。

AI进修生