开源动态8

LMCache：解决AI token重复计算难题

AI工程化2026-07-19

AI 摘要

斯坦福：AI Agent每次调用62%内容重复计算。LMCache：将缓存管理独立成进程，用CacheBlend复用缓存，适配多引擎。当下AI团队不应只关注降token单价，更要避免重复计算。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Booking.com亿级向量数据库选型实践

本文分享Booking.com在1亿条embedding数据规模下，原有OpenSearch向量方案遇到性能、成本、运维瓶颈后，自行设计贴合生产的压测对比不同方案，最终完成选型迁移的全过程，总结了实用经验。

本文报道字节跳动Seed团队联合多校研究者，发现DeepSeek-V4因分块KV缓存压缩设计存在长文本检索周期性盲区，深入拆解缺陷根源，曝光传统大模型长文本评测的盲区。

本文报道PhAI Labs发布的RSI-Anything研究，该框架依托世界模型实现跨领域AI递归自我进化，在多类任务验证中取得性能提升，探索通用RSI新方向。

DeepSeek官方产品还未上线，民间开发者基于DeepSeek Harness开发了开源的DeepSeek-Bot插件，支持多Bot团队协作、持久化长期记忆，可设置Bot主管降低token消耗，可自由接入模型。