「缓存复用」共找到 200 篇相关文章
喂给AI的Skill正让它变笨！清华团队发现大模型经验复用的黄金法则
清华大学与EvoMap团队研究发现，给大模型提供详尽纠错Skill会使基准测试通过率下跌，而精简控制指令可提升性能。他们提出将程序化Skill转化为策略基因，经实验证实其更适合驱动智能体测试时演化。
最强编码模型Claude 4来了！Mcp集成无需Client，扩展提示缓存增强Agent长上下文保持能力
Anthropic 昨日推出新一代 Claude 模型，包括 Claude Opus 4 和 Claude Sonnet 4，在编码、高级推理和 AI Agent 方面树立新标准，有卓越编码能力、显著提升的 Agent 能力、全新 API 功能，Claude Code 也全面上市。
刚刚！Kimi Linear横空出世，全新注意力架构：1M长文本解码速度飙升6.3倍，KV缓存砍掉75%
月之暗面推出全新注意力架构Kimi Linear，有望成下一代Agent LLM基石技术。它解决了LLMs处理长序列任务的瓶颈，性能超传统机制，还开源了核心代码。Kimi Linear的KDA模块提升了表达和硬件效率，实验表现佳。
更省 Token 的国产 Codex：ZCode，加上 DeepSeek 更夯！
介绍国产 Codex 平替 ZCode，它有 100 万用户，能接 DeepSeek，模型选择开放，缓存命中率高省 Token，插件生态完善，还介绍了安装、接入方法及多种实用功能。
Mamba核心作者新作：取代DeepSeek在用的注意力机制，专为推理打造
Mamba核心作者Tri Dao团队提出GTA和GLA两种专为推理定制的注意力机制，在减少KV缓存用量、保持模型质量的同时，显著提升解码速度，优化长上下文推理能力。
刚刚微软开源视频录制技能skill-recorder
微软开源视频录制技能 Skill Recorder，能将用户完成任务的过程转化为 AI 智能体可重复执行的技能。它捕获屏幕工作会话，用 GitHub Copilot CLI 重构操作，生成可复用内容，支持多平台。
“烧掉94亿个OpenAI Token后，这些经验帮我们省了43%的成本！”
作者以月耗94亿OpenAI Token实战经历，分享优化成本经验，如选对模型、用提示词缓存、设账单预警等，降低成本43%，不过网友对此有不同看法。
Cloudflare 构建了面向 LLM 的高性能基础设施
Cloudflare发布全新基础设施，可在全球边缘网络运行大型AI大语言模型。它将模型输入处理与输出生成拆分，自研Infire推理引擎，还推出Unweight模型压缩系统，分享提示词缓存优化方案。
开源两天斩获 1.8K Star！把网站变成命令行工具，支持国内外主流平台！
OpenCLI是开源的AI原生命令行工具，能把网站或Electron应用变命令行接口，复用Chrome登录状态，安全性高。支持19个主流平台，有自修复配置等亮点，还介绍了安装、使用、诊断及下载方法。
Sora 为什么输给 Codex？
本文探讨Sora输给Codex的原因。奥特曼称因Sora太吃compute，Codex优先级更高。Sora算力连续独占，成本难摊薄；Codex算力碎片可复用，能交错服务多任务，资源回报曲线更好。