「KV缓存机制」共找到 975 篇相关文章
将注意力旋转 90 度！今天，Kimi 的「注意力残差」火了
Kimi团队发布技术报告Attention Residuals，用依赖输入的注意力机制取代标准深度递归，解决传统残差连接的信息稀释和隐藏状态爆炸问题。实验显示其有计算优势，下游任务表现佳。
不止是玩！有人利用Clawdbot组建了一个虚拟团队接管公司业务
AI智能客服公司SiteGPT创始人分享利用Clawdbot构建AI智能体团队‘Mission Control’的经验。该团队含10个智能体，可协同工作。系统有心跳机制控成本，还有协同平台，已产出多种成果。
Databricks开源限流方案，抛弃redis，性能提升10倍
Databricks 开源高性能限流系统设计，抛弃 Redis，通过内存分片和批量上报机制，实现 10 倍性能提升。还将限流算法改为令牌桶，解决了精度控制、在线迁移等问题，权衡了分布式一致性。
2篇最新论文，把Deep Research讲透了~
阿里开源Tongyi DeepResearch热度高，文章分享两篇相关技术综述。介绍Deep Research是代理研究新范式，阐述其四大核心模块、优化方法、数据处理、奖励机制，还提及开源系统亮点及相关论文。
多人会话视频生成新突破：香港科技大学，浙江大学用单人数据实现多人交互视频生成
香港科技大学、浙江大学等开源 AnyTalker，提出音频驱动多人交互生成新范式。它用创新机制和两阶段训练策略，以少量数据实现多人视频生成，还构建评估指标，性能超现有方法。
来自 Manus 的一手分享：如何构建 AI Agent 的上下文工程？
Manus 公司联合创始人季逸超分享为 Manus 搭建上下文工程的经验。文章探讨构建 AI 智能体时的关键抉择，给出围绕 KV - Cache 设计、通过掩码约束行为等构建原则，助开发者少走弯路。
AI4S设计的新抗生素通过湿实验！双层思考+多目标优化，主动发现「代谢不稳」并加约束
SAGA是新AI，采用双层思考机制，能主动审视需求、优化目标函数。在抗生素、纳米抗体等5大领域湿实验中表现出色，结果获科学家肯定，相关代码已开源。
深度解读《AI 智能体的上下文工程》：构建高效 Agent 的七个宝贵教训
作者解读 Manus 团队文章，结合自身理解总结出构建高效 Agent 的 7 个关键点，如依赖上下文工程、提升 Prompt 缓存命中率等，还给出总结与核心启示，对 Agent 开发有借鉴意义。
vLLM PIECEWISE CUDA Graph 技术学习笔记
文章围绕vLLM PIECEWISE CUDA Graph技术展开，介绍了vLLM Compilation架构、分片编译技术、算子融合、集合通信融合、编译缓存、装饰器系统等内容，PIECEWISE技术让vLLM在prefill阶段性能提升。
让AI学会潜意识推理，Sapient发布类脑模型HRM
新加坡初创公司Sapient Intelligence发布仅2700万参数的分层推理模型HRM，在多项高难度推理任务上超越大模型。它绕过大模型推理困境，借鉴大脑机制，训练效率高，开源后GitHub星标突破10.3k。