「KV 缓存缩减」共找到 159 篇相关文章
用「传心术」替代「对话」，清华大学联合无问芯穹、港中文等机构提出Cache-to-Cache模型通信新范式
随着大语言模型发展，多智能体系统中现有T2T交流方式有信息丢失、语义模糊、延迟大问题。清华等团队提出C2C信息传递方式，以KV - Cache为媒介，提升了正确率和速度，还介绍了实现路径、优势及应用前景。
谷歌迎来“DeepSeek时刻”！TurboQuant引爆AI圈、全球开发者疯狂复现：6倍无损压缩，内存股集体暴跌
谷歌研究院发布 TurboQuant 压缩算法，能在提升速度、保持准确性的同时，降低大语言模型内存占用，可将键值缓存压缩至少 6 倍，速度最高提升 8 倍。该技术无需额外训练，精度零损失。目前虽未大规模部署，但已引发内存股下跌。
GPU-MODE Leaderboards之nvfp4_gemv代码阅读
文章围绕GPU-MODE的nvfp4_gemv竞赛rank1代码展开，先介绍问题及官方baseline，后详细解读rank1代码，含数据加载、线程模型等，还剖析核心计算函数，最后总结代码在缓存控制、数据格式等方面的调优亮点。
代码暴减99.9%！独立开发者仅用500行代码做出安全版OpenClaw，GitHub星数狂飙
近日，独立开发者 gavrielc 制作的开源 AI 助手 NanoClaw 火了。它核心代码仅约 500 行，实现 OpenClaw 同等核心功能。相比原版 Clawdbot 代码量大减，还解决了 OpenClaw 安全架构问题，是其安全替代方案。
Meta AI大裁员，华人大佬田渊栋被裁了？！Alexandr Wang “嫡系”部门还在重金招聘
据 Axios 报道，Meta 从 AI 部门裁撤数百岗位，涉及多个团队，但新成立的 TBD Lab 不受影响且仍在招聘。Meta 认为长期 AI 团队官僚，想借此让团队更高效。华人科学家田渊栋称受裁员影响。
Manus：3大核心策略，破解AI Agent上下文膨胀难题
当AI Agent调用工具结果大量涌入上下文窗口，LLM性能会下滑。Manus联合创始人拆解其上下文工程逻辑，给出‘减少、卸载、隔离’三大策略及模型选择等方法，还提炼出6条实践启示。
实测MiMo-V2.6，这个小米直播烧了347万美元训出来的模型到底怎么样？
本文作者实测小米花费347万美元训练的开源大模型MiMo-V2.6，从多类真实场景测试模型能力，分析性能成本与实际体验，给出客观真实的测评结果。
深度拆解，硬核解构，揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统，介绍其核心组件和高级特性，包括推理引擎流程、调度机制、高级功能等，还提及系统扩展、分布式部署、性能测量等内容，助力读者理解推理引擎工作原理。
揭秘 GitHub 11.1k 让你的存储秒变“万能盘”？JuiceFS：最好用的存储系统能为你带来怎样革命性的提升？
云存储成本高、性能差等问题让人烦恼，JuiceFS 可零代码改造，将对象存储升级为高速共享文件系统。它功能丰富、架构有优势，代码示例简单，适用于多场景，相比竞品优势明显。
都标5美元，账单差三成！OpenAI高管：token从来没法直接比价
OpenAI Codex负责人Tibo指出，不同模型对同一段文字切分的token数不同，即便单token价格相同，最终账单也可能差异很大。他还提到，token无统一计量标准，跨厂商和新旧模型计数都难通用，真正重要的是每次成功结果的成本。