「KV cache压缩」共找到 272 篇相关文章
DragonMemory：16倍语义压缩，为RAG应用瘦身
介绍GitHub项目DragonMemory，它针对RAG应用上下文压缩，核心是Dragon v7模型，从序列维度压缩，压缩比达16倍。本地测试效果好，有图形界面，支持多格式文档，开源但非成熟商业产品。
上新：Cache-DIT 支持LTX-2模型
作者和DefTruth在Cache-DIT上支持了LTX-2模型，记录适配关键点，包括模型侧、框架侧适配。介绍LTX-2特点，如支持T2V/I2V、输出带音频，还说明Cache-DIT加载区分T2V/I2V方法及cache侧修改内容，最后给出使用示例。
「压缩，就是你所需要的全部」！菲尔兹奖得主Michael Freedman新作揭开数学真相
菲尔兹奖得主Michael Freedman认为人类真正创造和关心的数学本质是「柔软且可塑」的。他在最新论文提出「压缩，就是你所需要的全部」，并在采访中探讨人类数学直觉与机器逻辑的鸿沟，认为理解压缩机制是人类与AI在数学领域协作的起点。
一图胜千言被实现了！DeepSeek-OCR用图片压缩文本，10倍压缩率
DeepSeek开源DeepSeek - OCR，用图片压缩文本达10倍压缩率且几乎不丢信息。它解决了以往视觉编码器的问题，架构清晰，数据丰富，性能测试亮眼，为解决大模型‘记性差’问题提供新思路。
阿里、南开大学发布免训练，视频大模型创新压缩方法
视频模型序列化处理影响推理速度与扩展性，传统token压缩方法在视频理解中有问题。阿里通义实验室与南开联合发布LLaVA - Scissor，用SCC方法和两步时空压缩策略，实验显示其性能优于其他方法。
压缩即是全部 —— 菲尔兹奖得主给数学和 AI 的一封信
2026年3月，菲尔兹奖得主Michael Freedman发表论文《Compression is all you need》，用代数模型回答人类构建数学、人类与形式数学区别、人类数学家与AI协作三个问题，答案是“压缩”。文章还探讨了压缩在多领域的体现及对AI的意义。
提示词压缩竟成大模型新漏洞？港科大提出黑盒攻击框架COMA | ASE 2026
香港科技大学研究发现，大模型的“提示词压缩”模块会重写系统安全边界，成为新攻击面。团队提出“对抗性信息损失”概念和COMA攻击框架，实验有效，还给出隔离压缩防御方案。
苹果LensVLM：长上下文压缩成图片，模型边看边「放大」
本文介绍苹果基础大模型团队与杜克大学联合提出的LensVLM方案，针对长上下文压缩易丢失关键信息的痛点，提出将长文本压缩为图像、模型按需展开细节阅读的新思路，相关研究已被NeurIPS 2026接收，公开了模型、代码与可体验Demo。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
对话27岁博导张林峰：模型压缩获CVPR满分有点意外，上海交大像我这样年轻老师很多
上海交大27岁博导张林峰团队在模型压缩领域成果丰硕。其提出的数据集蒸馏方法获CVPR 2025满分，还在多方面探索模型加速，成果已开源。张林峰认为数据蒸馏会成模型压缩趋势，也分享了知识蒸馏阶段看法。