搜索：KV Cache 压缩 - AI Reading Hub

「KV Cache 压缩」共找到 254 篇相关文章

Anthropic 发布 AI Agent 上下文工程指南

今年6月Andrej Karpathy提出用「上下文工程」取代「提示词工程」。Anthropic发布工程博客呼应此观点，指出构建AI应用重心转向策划上下文。文章详述上下文工程重要性、有效上下文剖析、检索及长时任务应对技术等。

大型语言模型“思维链”技术有冗余，传统优化方案存在静态先验与动态能力错配问题。论文提出的DR.SAF框架赋予模型动态自感知能力，通过三模块协作，实现推理“精准瘦身”，解决根本冲突。

文章指出在大模型时代，智能体能否理解上下文是关键。介绍了上下文工程的魔力、从提示词到上下文工程的演进，分析了上下文工程不等同于上下文的原因及常见失败类型，还给出编排设计和常见策略，最后提及用RAGFlow构建私有知识问答应用。

卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。

作者探讨如何让 AI 长时间高质量输出，提出初版方案。后借助「六顶思考帽」思维法，用 Moxt 产品创建 6 个 AI 同事评审草稿，各帽给出反馈，AI 间通过文件协作，Moxt 有小问题但方向值得关注。

文章从Prompt、Context和Harness三个维度解析OpenClaw设计思路。Prompt工程有动态组装与文件驱动特点；Context工程含可扩展技能、上下文压缩修剪及双层记忆管理；Harness工程为模型套“马具”，保障其可控运行。

约翰斯・霍普金斯大学研究发现，1100多个不同神经网络，即便训练条件不同，最终权重会收敛到共享低维子空间。此研究为神经网络参数空间“通用性”提供严谨实证，虽成因待探索，但意义深远。

清华和面壁智能团队研究揭示大语言模型进化的致密律，指出为获同等智能，模型参数量呈指数级下降，最大能力密度约每3.5个月翻一番，还探讨模型压缩、边缘智能等内容。

本文称「上下文工程」成 Agent 核心胜负手，它指在正确时间为 Agent 提供正确信息，超越 Prompt 和 RAG。文章归纳五大策略，如转移、压缩等，并结合 *The Bitter Lesson* 启示，探讨构建面向未来的 AI Agent。

LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。