「分层缓存」共找到 265 篇相关文章
Claude Skills很重要
作者本想退订Claude，因Anthropic发布Claude Skills改变主意。它是‘能力包’，含SOP、工具和资源，分层加载省上下文窗口。预设Skills可体验，官方开源，模块化设计利于挂载和按需加载，或形成Skills Market。
智谱GLM-5强调的Agentic Engineering能力是什么？｜甲子光年
智谱上线并开源GLM - 5，在Coding与Agent能力上达开源SOTA，刺激股价上涨。它验证了Agentic Engineering可行性，提升能力阈值，但成本阈值也更显性，未来软件工程或分层发展。
“烧掉94亿个OpenAI Token后，这些经验帮我们省了43%的成本！”
作者以月耗94亿OpenAI Token实战经历，分享优化成本经验，如选对模型、用提示词缓存、设账单预警等，降低成本43%，不过网友对此有不同看法。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
一篇95页最新80种Deep Research系统全面综述
浙大研究深度研究系统领域，分析自2023年以来80多个实现，提出4维度分层分类法，全面分析4种实现架构，涵盖基础模型、工具利用、任务规划、知识综合等方面的演变与进步。
中山大学梁小丹团队论文：让视频生成从「看起来真实」到「物理上正确」丨CVPR 2026
中山大学梁小丹团队提出《ProPhy: Progressive Physical Alignment for Dynamic World Simulation》，通过分层建模和逐步对齐，引入视觉语言模型作监督，解决视频生成模型物理建模问题，提升物理正确性和视频质量。
深度解读《AI 智能体的上下文工程》：构建高效 Agent 的七个宝贵教训
作者解读 Manus 团队文章，结合自身理解总结出构建高效 Agent 的 7 个关键点，如依赖上下文工程、提升 Prompt 缓存命中率等，还给出总结与核心启示，对 Agent 开发有借鉴意义。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
英伟达开源上瘾了！推出了一款实时语音智能体的终极 ASR：24ms 极速锁定。
英伟达开源了Nemotron Speech ASR模型，它是低延迟、实时流式语音识别模型，单句转录锁定仅需24毫秒。其核心能力包括缓存感知、运行效率高、动态运行灵活，还被放进完整语音智能体方案。
GitHub 爆火，这才是 Vibe Coding 的正确打开方式！
现在AI编程火，但很多人零基础不知咋上手。Github上的`easy-vibe`项目把「AI编程」从入门到实战讲透，教从想法到产品，有零基础出活、分层学习等亮点，覆盖开发完整链路。